상장 미루겠다는 오픈AI, S-1 낸 앤트로픽은 AI 덕에 개발 속도 2배로

앤트로픽(Anthropic)이 AI를 이용해 더 강력한 AI를 만들고 있다. 그 속도는 1년 전의 약 2배로 빨라졌다. AI 안전 연구기관 METR이 앤트로픽 내부를 11주 동안 조사한 뒤 목요일(현지시각) 내놓은 보고서의 결론이다.

더 버지(The Verge)는 이 보고서가 AI가 스스로 개발을 가속하고 있다는 가장 분명한 증거 중 하나라고 전했다. 다만 앤트로픽은 최종 보고서 일부를 가릴 수 있는 권한을 갖고 있었고 이를 폭넓게 행사한 것으로 나타났다. 앤트로픽은 상장을 준비 중이다. 같은 시기 클로드에는 개인 재무 분석 기능도 추가됐다.

1년 전보다 2배 빨라진 개선 속도…컴퓨팅 때문은 아니다

METR 보고서의 핵심 수치는 ‘2배’다. 앤트로픽 모델은 1년 전보다 대략 두 배 빠르게 좋아지고 있다. 벤치마크(성능 평가 시험) 점수로 보면 앤트로픽이 지난 1년 동안 과거 기준 약 2년 치 진전을 이뤘다는 것이 METR의 설명이다.

연구진은 이 가속이 모델 훈련에 투입한 컴퓨팅(연산 자원) 증대 때문만은 아니라고 “확신한다”고 밝혔다. 컴퓨팅 확대는 그동안 AI 발전을 이끈 주된 동력으로 꼽혀 왔다. 대신 10월 기준 가속의 대부분은 “AI 때문”이며 그 기여도는 시간이 갈수록 커지고 있다고 연구진은 적었다.

근거는 앤트로픽 직원 대상의 비공식 슬랙(Slack) 설문과 인터뷰다. 사내 가장 성능이 높은 내부 모델을 쓰는 직원들은 AI 없이 일할 때보다 평균 약 12배 생산적이라고 스스로 답했다. 불과 몇 달 전 미토스 5를 쓰던 직원들이 답한 수준의 약 2배다.

아직은 ‘사람 연구자를 돕는 AI’…자율 기여 늘어날 조짐

지금의 가속은 AI가 독립적으로 일해서가 아니라 사람 연구자를 보조하는 데서 주로 나오는 것으로 조사됐다. 하지만 METR은 “완전 자율적인 기여가 곧 더 큰 역할을 할 조짐이 몇 가지 있다”고 경고했다.

연구진은 수익 체감(투입을 늘려도 성과 증가폭이 줄어드는 현상)의 뚜렷한 신호나 관찰 가능한 병목도 찾지 못했다고 밝혔다. “더 빠른 가속”을 막을 장애물이 보이지 않는다는 뜻이다. AI 시스템이 사람의 개입 없이 스스로를 개선하는 미래가 얼마나 빨리 올지에 대한 논쟁에 무게를 싣는 대목이다.

이 보고서는 앤트로픽의 AI 연구개발을 평가하는 작업의 일부다. 더 버지에 따르면 여름 해킹 사건 이후 안전 연구자들에게 “직원에 준하는” 접근 권한을 주는 프로그램이 별도로 진행되는데 이번 조사는 그 프로그램과 별개다.

공개되지 않은 모델 3종…그리고 가려진 증거

생산성 향상의 상당 부분은 일반에 공개되지 않은 내부 모델에서 나왔다. METR에 따르면 앤트로픽은 최근 6개월 동안 아직 출시하지 않은 모델 3종의 훈련을 마쳤다. 코드명은 모델 2, 모델 3, 모델 4다. 훈련 완료 시점은 각각 7월, 8~9월, 9~10월이다.

METR은 2022년으로 거슬러 올라가는 미공개 모델 ‘Unreleased 2022’도 확인했다. 연구진은 “우리에게 공유된 코드명이며 내부에서는 다른 코드명을 쓰는 것으로 안다”고 적었다. 앤트로픽 연구진이 일반 사용자보다 더 앞선 모델을 쓰고 있다는 의미다.

앤트로픽은 기밀 연구와 모델 성능 데이터, 직원 인터뷰 등 비공개 정보를 METR에 제공했다. 그럴 의무는 없었다. METR 스스로 “애초 프로젝트 범위보다 많은 정보를 공유해 기대를 넘어섰다”고 평가했다. 그러나 무제한 접근은 아니었다. 별도 프로그램에서 약속한 ‘직원에 준하는’ 접근도 이번엔 해당되지 않았다.

100쪽 보고서에서 ‘가장 유익한 증거’ 대부분이 삭제됐다

더 큰 논란은 공개본이다. 앤트로픽은 METR과의 합의에 따라 최종 보고서의 일부를 가릴 수 있었고 그 권한을 폭넓게 썼다. METR은 X에 “평가 결과를 담은 약 100쪽짜리 전체 보고서를 앤트로픽에 제출했다”고 적었다. 이어 “공개본에서 앤트로픽은 우리가 가장 유익하다고 본 증거의 대부분을 삭제했다”고 밝혔다.

METR은 보고서 곳곳에서 접근의 한계를 되풀이해 짚었다. “우리가 받은 정보 경로는 비교적 좁았고 소수의 데이터 요청은 거절됐다”는 것이다. 삭제된 증거 상당수가 “여러 그럴듯한 해석”이 가능한 내용이어서 대중이 불확실성을 이해하고 직접 판단하기 어려워졌다고도 지적했다. 그 결과 “대중이 METR의 판단에 훨씬 더 의존해야 하는 상황”이 됐다는 취지다.

이런 구조는 독립 평가의 신뢰도에 대한 질문으로 이어진다. 기업이 독립 평가로 평판상 이득을 얻을 수 있다는 점에서 접근 범위의 차이는 중요하다.

상장 앞둔 앤트로픽, 클로드에는 개인 재무 분석 기능

앤트로픽은 최근 상장을 위한 S-1(증권신고서)을 제출했다. 앤트로픽 CEO 다리오 아모데이(Dario Amodei)는 AI 개발에 속도 조절을 해야 한다고 공개적으로 촉구해 왔다. 경쟁사 오픈AI는 3월 1,220억 달러를 조달하며 기업가치 8,520억 달러를 인정받았다. 이후 새 라운드에서 1조 2,500억 달러 가치가 거론되고 있다. 샘 올트먼(Sam Altman) 오픈AI CEO는 올해 초 모델 안전성에 더 확신을 갖기 전까지 자사 상장을 미루겠다고 밝혔다.

제품 쪽에서도 변화가 있다. 지디넷(ZDNet)에 따르면 클로드에 ‘개인 재무’ 기능이 들어왔다. 플레이드를 통해 은행·신용카드 계좌를 원하는 만큼 읽기 전용으로 연결한 뒤 이번 달 어디에 돈을 썼는지, 6개월 뒤 휴가를 갈 여유가 있는지 같은 질문을 할 수 있다. 앤트로픽은 4월 사용 보고서에서 금융 조언이 이용자가 클로드에 도움을 구하는 주요 주제 중 하나였다고 설명했다.

연결한 계좌에 대해 클로드는 은행 이름, 계좌 이름·종류·끝 4자리, 잔액과 한도, 최대 2년 치 거래 내역을 본다. 앤트로픽은 이 허브 안의 대화를 모델 학습에 쓰지 않는다고 밝혔다. 허브 밖에서 재무 정보를 논의하면 일반 클로드 개인정보 설정만 적용된다. 이용자는 주간 지출 차트나 마감 일정 달력, 대시보드를 아티팩트(결과물) 형태로 만들 수 있다.

앤트로픽은 광고나 후원 추천이 없고 자체 신용카드·대출·예금 상품도 팔지 않는다고 강조했다. 실제 거래 데이터를 쓰기 때문에 환각(그럴듯한 오답) 가능성이 낮다고도 했다. 숫자의 근거 거래를 모두 나열할 수 있고 중요한 사안은 은행에서 확인하라고 권고했다. 지금은 미국의 프로·맥스·울트라 구독자만 쓸 수 있다.

지디넷은 이 기능이 챗GPT 파이낸스와 기능이 비슷하다고 평가했다. 앤트로픽은 이 기능이 “첫걸음”이라며 은행과 자산관리사, 금융 서비스 기업의 의견을 듣고 싶다고 밝혔다.