미니맥스 내부 AI, 양자내성암호 후보 2초 만에 뚫었다…현행 표준 영향은 없다
작성일
미니맥스 내부 AI, NIST 과거 후보 LOCKER 공유 비밀 2초 복구·McEliece 94건 키 복구
배포 표준엔 영향 없다며 사람 암호학자의 검증이 필요하다고 강조

미니맥스(MiniMax)가 외부에 공개하지 않은 내부 연구용 AI 모델로 암호 설계를 자동 분석해 실제로 작동하는 공격을 찾아냈다고 밝혔다. 회사는 11월 20일(현지시각) 연구 결과를 공개했다. 양자컴퓨터 시대를 겨냥한 암호 후보에서 공유 비밀을 2초 만에 복구하고, 코드 속 기호 하나가 잘못 쓰인 오류까지 짚어냈다는 내용이다. 다만 미니맥스는 이번 연구가 현재 배포된 암호 표준에는 영향을 주지 않는다고 선을 그었다.
학계 설계와 과거 경쟁 후보가 표적
미니맥스는 이 모델을 ‘미니맥스 내부 모델(MiniMax’s Internal Model)’, 줄여서 MIM이라고 부른다. 디그(Digg)가 정리한 내용에 따르면 MIM은 학계에서 제안된 암호 설계와 과거 경쟁 후보에 대해 실제로 동작하는 공격을 만들어냈다. 테크플로(TechFlow)는 미니맥스가 여러 암호 방식을 자동으로 분석해 그동안 알려지지 않은 구조적 취약점을 찾았고, 일부 이론적 공격을 실제 수행 가능한 공격으로 바꿨다고 전했다.
연구 대상의 범위는 분명히 제한돼 있다. 미니맥스는 대상이 학계 설계, 과거 경쟁 후보, 공개 챌린지 파라미터(공개 도전 과제로 내건 설정값)라고 밝혔다. 실제 서비스에 쓰이는 암호 표준을 깬 것이 아니라는 점을 반복해서 강조한 것이다.
피멕스(Phemex) 뉴스는 미니맥스가 공개한 평가 결과를 인용해 성과를 소개했다. 이 보도에 따르면 MIM은 과거 미국 국립표준기술연구소(NIST)가 주관한 국제 암호 표준화 경쟁의 후보 알고리즘 가운데, 그때까지 알려진 실용적 공격이 없던 것을 여러 개 깨뜨렸다. 이론상 공격을 수 초에서 수 분 안에 끝나는 실제 공격으로 끌어내렸다는 설명도 덧붙었다.

수학 문제부터 코드 오타까지, 성격이 다른 세 가지 공격
가장 눈에 띄는 사례는 NIST 양자내성암호(양자컴퓨터로도 뚫리지 않도록 설계한 암호) 경쟁의 과거 후보 LOCKER다. 미니맥스에 따르면 MIM은 참조 코드의 버퍼 버그가 수정된 뒤에도 그 밑바탕의 수학 문제를 직접 공략했다. 풀이에 쓰는 행렬 크기를 42페타바이트에서 58메가바이트로 줄였고, 모든 파라미터 세트에서 공유 비밀을 2초 만에 복구했다고 한다. 디그는 이 행렬 축소가 마법 같은 압축 기술이 아니라고 짚었고, 2초는 복구에 걸린 시간으로 보고된 수치라고 설명했다.
이 가운데 가장 소박한 사례는 DRS 서명 방식에서 나왔다. 미니맥스는 참조 코드에서 논리 AND 연산자(&&)가 비트 AND 연산자로 잘못 적힌 것을 MIM이 찾아냈다고 밝혔다. 이 오류 때문에 공개키만으로 위조 서명을 만들 수 있었다는 설명이다. 디그는 이것이 수학적 설계 자체를 깬 것이 아니라 구현상의 결함이라며 구분했다.
구조적 결함도 보고됐다. 인증 암호화 경쟁 CAESAR의 우승작 가운데 하나인 COLM에서 MIM은 검증을 통과하는 위조 암호문을 만들었다. 미니맥스에 따르면 필요한 요청은 선택한 메시지를 암호화해 달라는 요청 2번뿐이었고, 암호문을 복호화해 달라는 요청은 한 번도 쓰지 않았다. 같은 AI가 수학 문제, 코드 오타, 구조 결함이라는 서로 다른 층위의 약점을 모두 건드린 셈이다.
테크플로가 소개한 ROLLO-I-128 사례도 있다. 미니맥스는 단일 코어 환경에서 이 방식의 공개키로부터 등가 개인키를 약 6초 만에 복구했다고 밝혔다.
McEliece 챌린지 94건, 속도 비교에는 조건이 붙는다
미니맥스는 TII가 내건 McEliece 챌린지에서도 성과를 냈다고 주장한다. MIM이 비밀키를 복구한 인스턴스는 94개이고, 이 중 55개는 이전에 풀리지 않았던 어려운 문제다. 이전 공개 기록이 있는 인스턴스에서는 64코어 서버 한 대로 1.80~5.36초가 걸렸다.
회사가 내세운 속도 향상 폭은 이전 기록과 앤트로픽의 다중 GPU 솔버 대비 6,180배에서 4만 3,400배다. 숫자가 인상적이지만 디그는 이 비교를 조심해서 읽어야 한다고 지적했다. 선택된 챌린지 인스턴스를 서로 다른 하드웨어에서 비교한 값이어서 모델의 전반적인 성능을 뜻하지 않는다는 것이다.
같은 매체는 이 결과가 실제 운용 강도를 갖춘 Classic McEliece를 깬 것도 아니라고 짚었다. 챌린지 인스턴스는 공개된 시험용 문제다. 따라서 94건 복구는 AI의 문제 풀이 능력을 보여주는 지표이지, 상용 암호가 무너졌다는 신호는 아니다.
사람 암호학자의 검증이 남았다
미니맥스는 연구 결과를 해당 암호 방식의 저자들에게 미리 공유했다고 밝혔다. 기술 보고서와 개념 증명 코드는 회사의 리서치 깃허브 저장소에 공개했다. 누구나 코드를 내려받아 공격이 재현되는지 확인할 수 있는 구조다.
그렇다고 AI의 판정이 곧 결론이 되는 것은 아니다. 미니맥스는 “작동하는 익스플로잇 코드는 공격이 성공한다는 것을 보여주지만, 암호 설계의 보안 여유를 평가하는 일은 여전히 사람 암호학자의 검토에 달려 있다”고 적었다. 공격이 통한다는 것과 그 설계가 얼마나 위험한지는 별개의 문제라는 뜻이다.
MIM은 지금도 내부 전용 모델이다. 미니맥스는 자격을 갖춘 연구자와 개발자가 신청하면 테스트 접근 권한을 받을 수 있다고 밝혔다. 미니맥스를 둘러싸고는 앞서 모델에 보낸 프롬프트를 제3자가 읽었을 수 있다는 중계 서비스 OpenRouter의 경고가 나오기도 했다. 이번 암호 분석 연구는 그와 별개로 회사가 모델 성능을 입증하는 자료로 내놓은 것이다.