앤트로픽, 클로드로 생물무기 연구 시도 5건 적발…치쿤군야 바이러스 강화 요청도

앤트로픽이 자사 AI 모델 클로드를 이용해 생물무기 개발에 활용될 수 있는 연구를 시도한 사례 5건을 적발해 차단했다고 밝혔다. 조류인플루엔자 관련 실험 계획부터 치쿤군야 바이러스의 전염력을 높이는 연구를 위한 지원금 신청서 작성 요청까지 포함됐다. 회사는 목요일(현지시각) 공개한 보고서에서 이 같은 사례들이 안전장치를 우회하거나 연구 목적을 숨기려는 시도였다고 설명했다. 러시아·중국·이란 등 앤트로픽이 접근을 금지한 국가의 이용자도 포함돼 있었다.

다섯 건의 생물무기 연구 시도, 어떻게 걸렸나

첫 번째 사례는 접근이 지원되지 않는 지역의 한 연구자가 몇 주에 걸쳐 조류인플루엔자 관련 실험을 클로드와 함께 계획한 경우다. 앤트로픽의 안전 필터가 작동해 해당 이용자의 작업은 가장 성능이 낮은 모델로만 제한됐다.

두 번째는 5월 발생한 사례로, 앤트로픽의 “생물학 안전 분류기(biological safety classifier)”가 치쿤군야 바이러스에 대한 게인오브펑션(gain-of-function, 유전자 조작으로 새롭거나 강화된 생물학적 특성을 만드는 연구) 지원금 신청서 작성 요청을 포착했다. 치쿤군야는 모기를 매개로 전파되며 승인된 치료제가 없는 바이러스로, 신청서는 이 바이러스의 전염력과 면역 회피 능력을 강화하는 방향으로 작성돼 있었다. 앤트로픽은 이 연구가 군사연구기관과 연계돼 있었다는 점이 문제를 더 키웠다고 밝혔다.

세 번째 사례 역시 조류인플루엔자를 대상으로 한 가인오브펑션 연구였다. 이 외에 한 연구자는 독소 펩타이드 지도를 만들고 독소 특성을 최적화하는 생성형 파이프라인을 구축하려 한 사례도 확인됐다. 앤트로픽은 다섯 건 모두에서 계정을 정지했지만, 연구기관 이름이나 사건이 발생한 국가는 공개하지 않았다.

“백신 연구인지 무기 연구인지 구분이 어렵다”

앤트로픽의 위협 정보 책임자 제이컵 클라인(Jacob Klein)은 뉴욕타임스에 “만화책에 나오는 것처럼 ‘모두를 죽일 생물무기를 만들고 싶다’고 말하는 사람을 보는 게 아니다”라며 “매우 미묘한 상황”이라고 말했다. 실제로 같은 정보가 백신이나 치료제 개발에 쓰일 수도 있어, 회사도 이용자들이 실제로 해를 끼치려는 의도였는지 확신할 수 없다고 인정했다.

이 때문에 앤트로픽은 “다섯 건의 사례에 연관된 이들은 현직 연구자들”이라며 “해를 끼치려는 의도가 있었다고 단정하지 않으며, 이들이나 소속 연구실을 특정하면 오히려 이들을 위험에 노출시킬 수 있다”고 설명했다. 다만 회사는 관련 계정을 모두 차단했고, 조사 결과를 향후 안전장치 개선에 반영하고 있다고 밝혔다.

구형 모델엔 허술, 신형엔 강화된 안전장치

앤트로픽은 2025년 출시된 클로드 오푸스4와 클로드 소넷4.5 같은 이전 모델은 “정교한 이용자의 위험한 생물학 연구를 실질적으로 도울 수 있는 수준에는 크게 못 미쳤다”고 밝혔다. 그래서 당시 안전장치는 주로 초보자가 기존에 알려진 생물무기를 재현하는 데 도움이 될 만한 콘텐츠 접근을 막는 데 초점을 맞췄다.

하지만 복잡한 과학 연구 작업을 도울 수 있는 최근 모델부터는 상황이 달라졌다. 앤트로픽은 “이제는 더 이상 안전을 확신할 수 없다”며 클로드 페이블5 같은 최신 모델에는 “이중 용도(dual-use) 생물학 연구 질의에 대한 폭넓은 접근을 제한하는 더 강력한 안전장치”를 적용했다고 밝혔다.

실제로 보고서에 담긴 사례 중 클로드 페이블이나 미토스 계열 모델이 연관된 경우는 단 한 건뿐이었다. 이 건은 한 모델의 능력을 대규모로 추출해 승인 없이 다른 모델에 복제하려 한 “산업 규모의 은밀한 캠페인”으로, 생물무기 연구와는 별개 사안이었다.

사이버공격·선전전까지 포괄한 세 번째 오용 보고서

이번 보고서는 앤트로픽이 2025년 3월 이후 내놓은 세 번째 오용 사례 보고서다. 지난해 12월부터 올해 8월 사이 스파이웨어 판매업체, “정치적 동기를 가진 개인”, 국가가 후원하는 조직 등 다양한 행위자가 클로드를 악용한 사례가 확인됐다. 회사는 “여기서 공유하는 사례들은 전형적인 오용이 아니라, 지금까지 확인한 가장 주목할 만하고 새로운 위협 활동”이라고 설명했다.

특히 회사는 러시아, 이란, 튀르키예를 비롯해 페르시아만 지역과 남아시아, 아프리카, 유럽에서 벌어진 여론 조작 시도 9건을 적발했다. 일반인처럼 보이는 계정 수백 개를 만들어 일주일 넘게 같은 정치적 견해를 확산시키는 방식이었다. 앤트로픽은 “소셜미디어 기업들은 게시물이 이미 퍼진 뒤에야 여론 조작을 탐지할 수 있지만, 우리는 작전이 아직 만들어지는 단계에서 클로드 상의 움직임을 포착할 수도 있다”고 밝혔다.

이번 보고서는 앤트로픽 연구자 제이컵 콕슨(Jacob Coxon)이 회사와 경쟁사 오픈AI가 “곧바로 자기 개선형 초지능으로 질주하며 우리 삶을 걸고 도박하고 있다”는 우려를 밝히며 퇴사를 선언한 지 이틀 만에 공개됐다. 콕슨은 일부 동료들이 이번 10년이 끝나기 전 AI가 인류 생존을 위협할 수 있다고 믿고 있다고 전했다. 캠브리지대학교가 아닌 코넬대학교의 컴퓨터과학 조교수 존 틱스턴(John Thickstun)은 앤트로픽이나 오픈AI 같은 기업들이 “민주적 논의나 검토 절차 없이 사회적 차원의 가치 판단”을 내려야 하는 불편한 위치에 있다고 지적했다. 올가을 기업공개(IPO)를 계획 중인 앤트로픽은 이번 보고서에서 확인한 모든 악용 사례를 차단했다고 강조했다.