기업 AI 사용 데이터 추적 ‘램프’ 보고서
최신 모델 개발 컴퓨팅 비용 급증…성능 우위도 오래 안 가 ‘딜레마’
미 기업들 100만토큰당 사용료 1.15달러서 0.68달러로 41% 하락
‘가성비 떨어진다’ 평가에 가격 경쟁력 앞세운 중국 AI들 파고들어
최근 프런티어 인공지능(AI) 개발사들이 ‘속도조절론’을 내세우는 배경에는 프런티어 AI 경쟁의 수익성 부담이 있다는 분석이 나온다. 값비싼 최신 모델은 계속 출시되고 있지만, 그만큼의 ‘가성비’가 나오지 않는다는 판단에 비싼 모델을 쓰기보다 중국 AI를 사용하는 기업이 많기 때문이다.
21일 기업 AI 사용 데이터를 추적하는 램프의 최신 보고서를 보면, 미국 기업이 지불한 100만토큰당 실효가격은 지난 3월 1.15달러에서 이달 0.68달러로 41% 하락했다. 모델 성능은 높아졌지만 기업이 같은 양의 AI를 쓰는 데 드는 평균 비용은 오히려 낮아졌다는 뜻이다.
최고급 모델에 대한 기업들의 지불 의사가 아직은 낮은 것으로 풀이된다.
램프에 따르면 앤트로픽의 최고급 모델 ‘페이블5’는 출시 후 한 달간 앤트로픽 기업 고객이 사용한 토큰의 6%, 관련 지출의 11.4%를 차지하는 데 그쳤다
모바일 바다이야기 사건
. 표준형 모델인 소넷5보다 약 5배 비싼 가격이 장벽으로 작용한 것으로 보인다.
최고급 모델의 추가 성능이 가격을 정당화하지 못하고 있으며, 저렴한 표준형 모델이 최근 사용량 증가를 주도한다고 램프는 분석했다.
이 틈을 파고드는 것은 가격 경쟁력을 앞세운 중국 AI다.
미국 AI 에이전트 업체 린디는 주요 AI 업무를 클로드·제미나이 중심에서 중국 딥시크의 V4 플래시로 옮겨 추론비를 약 90% 줄였다고 밝혔다.
AI 모델 중개플랫폼 오픈라우터 기준 중국계 모델의 토큰 비중은 지난 1월 22.5%에서 7월 61.5%까지 올랐고, 이달 1~14일에도 60% 안팎을 유지했다.
이처럼 가격 경쟁은 거세지는 반면 프런티어 AI 경쟁에 필요한 컴퓨팅 비용은 빠르게 불어나고 있다. 파이낸셜타임스가 지난 18일 입수한 오픈AI 내부 전망에서 2026~2030년 컴퓨팅 지출은 8560억달러로, 지난 2월 예상치 6000억달러보다 크게 늘었다.
모바일 인터넷바다이야기
여기에 컴퓨팅 투입 대비 성능 개선 폭이 줄어드는 ‘수확체감’도 비용 부담을 키운다.
막대한 비용을 들여 확보한 성능 우위도 오래가지 않는다. 에포크 AI에 따르면 올해 가중치(파라미터)를 공개하는 오픈웨이트 최상위 모델은 폐쇄형 프런티어 모델을 평균 약 4개월 시차로 따라붙고 있다. 고성능 모델의 답변과 추론 과정을 학습해 성능을 끌어올리는 기법인 ‘증류’도 추격을 가속한다.
앤트로픽은 이달 알리바바가 클로드와 1억5100만회 이상 상호작용한 데이터를 후속 모델 학습에 활용했다. 딥시크도 14일간 1210만회 이상 상호작용하며 추론 데이터를 수집했다고 주장했다.
이런 압박 속에서 프런티어 AI 랩들은 높은 성능에 실제 돈을 지불할 의사가 있는 전문시장 공략을 강화하고 있다.
오픈AI는 지난 17일 법률 업무 특화 ‘아스트라 포 로’를 공개해 미국 일부 로펌에서 시범 운영에 들어갔다. 앤트로픽도 이달 금융 자문 업무용 ‘클로드 포 파이낸셜 어드바이저스’를 내놨다.
한 업계 관계자는 “기업시장에서는 최고 성능 자체보다 비용 대비 효과가 중요해지고 있다”며 “비싼 프런티어 모델일수록 법률·금융 등 성능 향상을 높은 부가가치로 연결할 수 있는 전문영역에서 수익성을 확보하는 전략이 중요해질 것”이라고 말했다.
% 안팎을 유지했다
댓글목록
등록된 댓글이 없습니다.