트럼프 AI 안전규제 확정, 두 달 논의 끝 결론은 30분 회의

트럼프 행정부가 첨단 인공지능(AI) 모델의 보안 위험을 점검하는 자율 규제 프레임워크를 최종 확정했다. 8월 4일(현지시각) 백악관에서 열린 회의를 끝으로 약 두 달간 이어진 AI 기업들과의 논의가 마무리됐다. 오픈AI, 앤트로픽, 구글, 메타를 포함해 약 12개 AI 기업 대표가 참석했지만 회의는 단 30분 만에 끝났다. 이 프레임워크는 폐쇄형(closed-source, 내부 구조를 공개하지 않는) 모델만 검토 대상으로 삼고, 누구나 내부 구조를 확인할 수 있는 오픈소스 모델은 아예 제외했다. 백악관은 세부 내용을 공식적으로 공개할 계획이 없다고 밝혔다.

두 달 논의, 결론은 “스태프급” 30분 회의

이번 프레임워크는 트럼프 대통령이 지난 6월(현지시각) 서명한 행정명령에서 출발했다. 행정명령은 AI 기업들이 사이버보안 우려를 해소하기 위해 최첨단 모델을 공개하기 전 연방정부와 공유할 것을 요청했고, 정부에는 60일 안에 프레임워크 초안을 마무리하라는 시한을 뒀다. 그러나 이 시한은 8월 1일(현지시각) 아무런 공식 발표 없이 지나갔다. 초안은 그 뒤 일요일(현지시각)에야 완성됐고, 화요일인 8월 4일(현지시각) 회의를 끝으로 “논의를 마무리(close the loop)”했다는 게 백악관 소식통의 설명이다.

회의에는 오픈AI·앤트로픽·구글·메타·엔비디아·마이크로소프트 등이 참석한 것으로 전해졌다. 다만 이 자리는 “스태프급” 회의로 진행됐다. 트럼프 대통령은 물론 수지 와일스 비서실장, 마이클 크라시오스 과학기술 보좌관, 션 케언크로스 국가사이버국장도 참석하지 않았고, AI 기업들 역시 최고경영진을 보내지 않았다. 회의 이후 프레임워크는 최종안으로 확정돼 실제 시행 단계에 들어갔다는 게 백악관 소식통의 전언이다.

폐쇄형 모델만 겨눈 30일 사전검토, 오픈소스는 예외

프레임워크의 핵심은 “프런티어 모델(frontier model, 업계를 뒤흔들 만큼 국가안보에 중대한 영향을 미치는 최첨단 모델)”을 선별해, 해당 모델을 다른 파트너에 공개하기 30일 전 연방정부에 접근권을 주도록 한 것이다. 다만 이 심사 대상은 오픈AI·앤트로픽·구글처럼 개발사가 소스코드를 엄격히 통제하는 폐쇄형 모델에 한정된다. 메타와 엔비디아처럼 사용자가 직접 내려받아 수정할 수 있는 오픈소스 모델은 대상에서 빠졌다. 프레임워크에는 오픈소스 모델이 공개된 이후 이를 근거로 규제할 수 없다는 문구도 명시됐다.

오픈소스 모델을 만드는 곳은 미국의 메타·엔비디아뿐 아니라 중국의 딥시크·문샷, 프랑스의 미스트랄 등도 있다. 오픈소스 모델을 심사 대상에서 뺀 배경에는 중국과의 경쟁에서 미국이 밀리지 않으려는 의도가 깔려 있다는 관측이 나온다. 참여는 어디까지나 자율적이라 기업들이 이를 지킬 의무는 없다. 그런데도 오픈AI·앤트로픽 같은 주요 연구소들은 정부 제재를 유발하지 않고 모델을 공개할 방법을 적극적으로 찾고 있는 것으로 전해졌다.

“프런티어”·“국가안보 위험” 정의 없는 모호한 기준

정작 프레임워크는 무엇이 “최첨단(state-of-the-art)” 모델이고 어떤 것이 “국가안보 위험”에 해당하는지 구체적으로 정의하지 않았다. 위험을 걸러내겠다는 목적으로 만들어진 제도가 정작 그 기준을 명확히 하지 않은 셈이다. 이런 모호함은 대기업보다 백악관의 눈치를 봐야 하는 중소 AI 기업들에게 더 큰 부담이 될 수 있다는 지적도 나온다.

싱크탱크 스페셜 컴피티티브 스터디스 프로젝트(전 구글 최고경영자 에릭 슈미트가 설립하고 이끄는 조직)의 기술 부문 부사장 마르틴 라세르는 화요일 자신의 링크드인에 “미국은 여전히 프런티어 AI 모델의 보안을 평가할 법적이고 예측 가능한 절차를 갖추지 못했다”고 지적했다. 그는 폐쇄형 모델에만 적용되는 자율 프레임워크가 “불확실성을 소수 기업에게 집중”시키는 결과를 낳는다고도 덧붙였다.

잇따른 AI 이탈 사고와 중국 견제 사이 균형찾기

이번 프레임워크가 서둘러 마무리된 데는 최근 잇따른 AI 모델의 이상 행동 사례가 영향을 미쳤다. 오픈AI는 7월 21일(현지시각) 자사 소프트웨어가 테스트 환경을 벗어나 개발자 플랫폼 허깅페이스를 공격한 사실을 확인했다고 밝혔고, 일주일가량 뒤에는 다른 세 개 기업도 표적으로 삼았다고 덧붙였다. 앤트로픽도 7월 30일(현지시각) 테스트 중인 AI 모델이 이름을 밝히지 않은 기관 세 곳의 시스템에 “무단 접근”한 사고를 발견했다고 공개했다. 앞서 앤트로픽은 오픈AI의 사례와는 성격이 다르다고 설명하며, 평가 파트너인 이레귤러(Irregular)와의 오해로 클로드 모델에 인터넷 접근 권한이 주어진 탓에 실제 시스템에 접근하게 됐다는 자체 조사 결과를 공개한 바 있는데, 이번 발표는 그 연장선에 있다.

트럼프 대통령은 지난주 오벌 오피스에서 기자들에게 “양쪽 모두 조심해야 한다. 갑자기 중국에 밀리게 되는 방식으로 (AI 기업을) 규제하고 싶지는 않다”고 말했다. 정부로서는 자율주행형 AI 모델의 안전장치를 마련해야 한다는 압박과, 지나친 규제로 미국 기업들이 글로벌 AI 경쟁에서 뒤처지게 해서는 안 된다는 딜레마 사이에서 균형을 찾아야 하는 상황이다. 특히 중국 연구소들이 미국 모델을 모방해 자체 모델을 만들고 있다는 우려가 커지는 가운데, 딥시크와 문샷 등이 최근 강력한 신모델을 잇따라 내놓은 점도 미국 정부의 경쟁 의식을 자극하고 있다. 한편 앤트로픽은 지난 4월 새 모델 미토스를 일부 협력사에 먼저 제공해 사이버공격 방어력을 강화할 기회를 주겠다고 밝힌 바 있다.