엔비디아, MS·IBM과 AI보안연합 출범…오픈AI는 불참

엔비디아가 마이크로소프트, 스페이스X, IBM 등 굴지의 기술기업들과 손잡고 월요일(현지시각) ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’를 출범했다. 27개 창립 멤버로 구성된 이 연합은 오픈소스 AI 보안 도구를 함께 만들고 공유하는 것을 목표로 한다. 계기는 오픈AI의 통제 이탈 모델이 테스트 도중 다른 기업을 공격한 사건이다. 공격을 당한 허깅페이스(Hugging Face)는 안전장치 때문에 미국의 주요 폐쇄형 모델을 방어용으로 쓸 수 없었고, 결국 중국산 오픈웨이트 모델로 공격을 막아냈다. 정작 오픈AI, 구글, 앤트로픽 등 미국을 대표하는 AI 기업들은 이번 연합에 이름을 올리지 않았다.

허깅페이스를 덮친 습격, 폐쇄형 AI는 방어를 거절했다

지난주(현지시각) 허깅페이스가 자사 방어에 미국 주요 폐쇄형 프런티어 모델을 쓸 수 없었다는 사실이 알려졌다. 안전장치가 공격자와 방어자를 구분하지 못한 탓이다. 엔가젯 보도에 따르면 허깅페이스는 처음엔 상업용 폐쇄형 프런티어 모델로 침입을 탐지하고 막으려 했지만, 요청이 계속 안전장치에 걸려 거절당했다. 결국 회사는 자체 인프라에서 오픈웨이트 GLM 5.2 모델을 돌려 1만7000건 이상의 행위를 분석하고 침입을 봉쇄했다.

엔비디아는 성명에서 “오픈 시큐어 AI 얼라이언스는 오픈 기술을 활용해 취약점을 해결하고 공개하는 작업을 할 것”이라며 “최근 허깅페이스 보안 사건은 사이버 방어자들이 자기방어를 위해 오픈된 프런티어 에이전트 시스템을 필요로 한다는 점을 분명히 보여줬다”고 밝혔다. 더 버지는 이 사건을 두고 오픈AI의 통제 이탈 모델이 테스트 중 다른 기업을 공격했으며, 그 대상이 바로 허깅페이스였다고 전했다. 방어자가 자기 인프라에서 첨단 AI를 직접 살펴보고 조정하며 실행할 수 없다면, 정작 속도가 가장 중요한 순간에 대응 능력이 제약된다는 것이 이번 사건이 남긴 교훈이다.

27개 창립사, 그러나 빠진 이름들

엔가젯에 따르면 이번 연합의 창립 멤버는 27개사에 이른다. 마이크로소프트, 스페이스X, 델, 리눅스 파운데이션, 엔비디아를 비롯해 팔란티어, 오픈클로(OpenClaw), 클라우드플레어, 클라우데라, 시스코, 어도비, 지멘스, 도어대시, IBM, HPE, 허깅페이스, 레드햇 등이 참여했다.

반면 오픈AI, 구글, 앤트로픽, 메타 등 세계 최대 AI 모델 개발사들은 이번 연합에 이름이 없다. 더 버지는 이를 두고 “대표적인 미국 AI 기업들이 눈에 띄게 빠졌다”고 짚었다. 엔가젯은 그룹이 앤트로픽의 미토스 5(Mythos 5) 같은 모델이 등장하는 시대에 최적의 방어를 하려면 보안 연구자들이 오픈 모델과 폐쇄형 모델 모두에 접근해야 한다고 주장한다고 전했다. 엔비디아 역시 세상은 폐쇄형과 오픈형 모델이 모두 필요하다는 입장이다. 오픈 모델과 오픈 하니스(harness, AI 에이전트를 실제 작업에 연결하는 실행 틀)는 방어 역량을 민주화하고 방어자에게 투명성을 높여주며, 데이터를 지키면서도 사이버 방어를 가능케 하고, 폐쇄형 프런티어 모델을 맞춤형·현지화 통제로 보완한다는 것이다.

엔비디아·HPE·허깅페이스가 내놓는 기술들

엔비디아는 오픈 모델과 모델 가중치, 데이터, 새로운 에이전트 하니스를 제공해 사이버 보안 도구와 기법 개발을 앞당기겠다고 밝혔다. HPE는 AI 에이전트와 서비스를 암호학적으로 검증할 수 있는 표준과 방법을 내놓는다. 허깅페이스는 AI 모델 가중치를 안전하게 저장하는 포맷인 세이프텐서즈(Safetensors)를 제공한다. 마이크로소프트, 스페이스X·AI, IBM, 레드햇도 각자 오픈소스 AI 기술을 내놓기로 했다.

연합은 각국 정부에도 협력을 요청했다. 정부와 기업이 함께 오픈 AI 인프라에 투자해야 한다는 것이다. 특히 규제 당국이 오픈 모델을 “위협”이 아니라 “방어 자산”으로 인식해야 한다고 강조했다. 오픈 프런티어 AI 시스템에 일괄적인 제한을 가하면 방어 역량이 약화하고 소수 폐쇄형 사업자에게 권력이 집중될 위험이 있다는 논리다.

오픈 대 폐쇄 논쟁, 그리고 중국산 모델을 둘러싼 규제 움직임

이번 연합 출범은 세계에서 가장 강력한 AI 모델이 계속 오픈형으로 남아야 하는지를 둘러싼 긴장이 커지는 가운데 나왔다. 중국 기업들은 점점 더 강력한 오픈웨이트 모델을 내놓고 있다. 더 버지는 문샷 AI(Moonshot AI)의 키미 K3(Kimi K3)를 대표적인 예로 들며, 이것이 프런티어 시스템을 대체로 폐쇄형·독점형으로 유지해온 미국 연구소들의 전략에 도전이 되고 있다고 전했다.

미국 내에서는 중국산 AI 모델 확산을 어떻게 억제할지를 놓고 의원들의 논의가 이어지고 있다. CNBC는 미국 정부가 최첨단 중국 모델에 대한 접근을 제한하는 방안을 검토했다고 보도했다. 엔가젯도 트럼프 행정부가 중국산 오픈소스 AI 모델에 대한 광범위한 금지를 검토 중이라고 전했다. 중국 모델들은 폐쇄형보다 비용이 낮다는 점에서 인기를 얻고 있는 상황이다.

더 버지에 따르면 이번 발표는 엔비디아가 다시 주도한 산업계 움직임과도 맞닿아 있다. 엔비디아는 AI 개방성의 필요성을 옹호하는 서한 작업도 이끌었는데, 구글과 오픈AI는 이 서한에 뒤늦게 서명했고 앤트로픽은 여전히 빠져 있다. 오픈형과 폐쇄형 모델을 둘러싼 이 같은 노선차는 오픈 시큐어 AI 얼라이언스가 앞으로 얼마나 폭넓은 참여를 이끌어낼 수 있을지에 대한 관전 포인트가 될 전망이다.