중국 AI랩, 엔비디아 칩 제한에도 어텐션 연산 줄여 비용 5분의 1로 미국 추격한다

미국과 중국의 AI 경쟁이 새로운 국면에 접어들었다. 미 연방수사국(FBI)과 국가안보국(NSA), 사이버보안·기반시설안보국(CISA)은 이번 주 화요일(현지시각) 딥시크·문샷 등 중국 AI 기업 6곳이 미국 AI 서비스에 대량 구독을 결제한 뒤 그 결과물로 자사 모델을 학습시켰다고 주장했다. 중국 외교부는 이 같은 주장을 “근거 없다”고 반박했다. 하지만 전문가들은 중국 AI 랩이 미국과의 격차를 좁힌 진짜 비결은 제한된 컴퓨팅 자원을 훨씬 더 효율적으로 쓰는 기술에 있다고 본다.

미 정부 “구독 후 학습” 의혹, 중국은 “근거 없다” 반박

미 정보·안보 당국 3곳은 화요일 발표에서 딥시크와 문샷을 포함한 중국 AI 기업 6곳이 2024년 이후 이런 방식으로 “수십억 달러 규모의 역량”을 확보했다고 주장했다. 이들 기관은 이 방식이 딥시크가 자사 학습 비용을 560만 달러로 낮춰 발표하도록 만든 요인이라고도 지적했다.

중국 외교부는 자국의 AI 발전이 “고도의 과학기술 자립의 결과”라며 이번 의혹을 “근거 없다”고 일축했다.

이런 논란은 중국 AI 모델이 어떻게 미국 모델과 어깨를 나란히 하게 됐는지를 둘러싼 의문에서 나왔다. 스탠퍼드 보고서는 올해 초 앤트로픽의 최상위 모델이 딥시크 모델보다 불과 2.7% 앞선다고 평가했을 정도다.

어텐션 계산 줄인 게 진짜 효율 비결

포춘에 따르면 애널리스트들은 의혹과는 별개로 중국 랩이 개발한 진짜 경쟁력은 “어텐션(attention)” 메커니즘을 최적화한 데 있다고 본다. 어텐션은 구글 연구진이 2017년 발표한 논문에서 처음 소개한 개념으로, 모든 대형언어모델의 근간을 이룬다. 모델이 텍스트의 각 부분을 다른 부분과 연관 지어 어떤 연결이 중요한지 판단하게 해주는 계산 방식인데, 문맥이 길어질수록 연산 비용이 기하급수적으로 늘어난다는 단점이 있다.

테크 리서치 기업 퓨처럼그룹의 반도체·공급망 애널리스트 브렌던 버크는 포춘에 “중국 랩은 이 계산의 복잡도를 한 자릿수 단위로 줄이는 알고리즘을 찾아냈고, 가장 관련성 높은 토큰만 요약해 더 나은 결과를 낸다”고 말했다.

이런 효율화는 미국이 엔비디아의 최상급 칩에 대한 중국의 접근을 제한하면서 화웨이 같은 자국산 대안으로 밀어낸 결과이기도 하다. 백악관 보고서에 따르면 미국은 전 세계 컴퓨팅 자원의 74%를 보유하고 있고, 빅테크들도 데이터센터에 막대한 돈을 쏟아붓고 있다. 버크는 “중국은 쓸 수 있는 컴퓨팅이 적었기 때문에, 미국 랩이 처음에 했던 것처럼 비효율적인 기법에 컴퓨팅을 더 쏟아붓는 대신 계산 효율적인 방법을 찾아냈다”고 설명했다. 반면 미국 최상위 랩들은 탐색적이고 기반 모델을 실험하는 방식으로 설계돼 있어 “토큰을 많이 쓰는” 경향이 있다고 덧붙였다.

비용은 5분의 1, 처리량은 75%

이 격차는 수치로도 확인된다. AI 측정 플랫폼 라리딘의 공동창업자 아메야 카니트카르는 포춘에 자사가 추적하는 기업 워크플로에서 GLM 5.2, 키미 2.6과 2.7 같은 중국 모델이 미국 모델 대비 5분의 1 비용으로 엔지니어링 업무의 약 75%를 “꽤 잘” 처리한다고 밝혔다.

카니트카르는 “최상위 미국 모델은 가장 복잡한 작업에서는 여전히 우위를 지니지만, 중국의 오픈웨이트 모델도 일상적인 기업 엔지니어링 업무 대부분을 처리할 만큼 충분히 능력이 향상되고 있다”고 말했다.

이런 비용 차이는 기업 예산에서 AI 지출 비중이 커질수록 더 중요해질 수 있다. 맥킨지 조사에서는 응답한 기업 리더의 20%가 토큰 구매 등 AI 관련 비용이 자사의 AI 활용을 제약하고 있다고 답했다.

미국 기업들도 속속 중국 모델로

비용 효율만이 매력은 아니다. 딥시크의 추론 모델 R1은 허깅페이스 등을 통해 내려받을 수 있게 공개돼, 기업들이 직접 실행하고 필요에 맞게 조정할 수 있다. 아마존웹서비스(AWS) 같은 미국 클라우드에서 구동할 수도 있어, 중국 기업에 데이터를 보내는 걸 꺼렸던 미국 기업들도 딥시크와 다른 중국 모델에 마음을 열게 됐다. 허깅페이스는 지난해 중국 오픈소스 모델이 전체 다운로드의 41%를 차지해 미국 모델보다 비중이 컸다고 전했다.

도어대시 최고경영자 앤디 팡은 문샷AI의 키미를 쓰는 게 “더 싸고 품질도 더 좋다”면서 코드 품질이 떨어지지 않았다고 말했다. AI 코딩 스타트업 커서도 자사 코딩 에이전트 컴포저2를 만들 때 키미를 활용했다. 에어비앤비와 지멘스는 알리바바와 딥시크 모델을 실험 중이며, 에어비앤비 최고경영자 브라이언 체스키는 큐원을 “빠르고 저렴하다”고 평가했다.

톰슨로이터는 알리바바의 오픈소스 모델 큐원을 자체 조정해 톰슨-1을 만들었다고 밝혔다. 이전에 클로드가 맡았던 문서 검토 업무를 이 모델로 대체했다. 결제 관리 플랫폼 램프의 AI 지수에 따르면 오픈소스·중국산 모델에 접근할 수 있는 플랫폼에 비용을 지불하는 기업의 비중은 1월 4.5%에서 7월 6.1%로 늘었다.

다만 기업들이 중국 모델을 실험한다고 해서 미국 모델을 완전히 떠나는 건 아니다. 성능 면에서는 미국 모델이 여전히 몇 달 앞서 있다는 평가다. 기업용 AI 분석 기업 앤서로켓의 최고기술책임자 마이크 핀리는 포춘에 “중국 랩이 하는 작업은 최전선 랩들이 길을 열어주지 않았다면 아예 불가능했을 것”이라며 미국 AI 기업의 결과물이 중국 랩에게는 여전히 “존재 증명” 역할을 한다고 말했다.