xAI, 7000장 성착취물 피해자엔 침묵하고 이용자만 상대로 맞소송 제기

미국 와이오밍주에 거주하는 한 여성이 일론 머스크의 인공지능 기업 xAI를 상대로 제기된 집단소송에 새로 합류했다. 이 여성은 소송 서류에서 익명으로 ‘Jane Doe 4’로 표기됐다. 그녀는 계부가 자신이 11세 무렵 소파에 누워있던 사진 한 장을 xAI의 챗봇 그록(Grok)에 입력해 7000장이 넘는 성적으로 노골적인 이미지와 영상을 만들어냈다고 주장한다.

테크크런치(TechCrunch)는 워싱턴포스트 보도를 인용해 이 여성이 법 집행기관의 압수수색으로 문제의 이미지가 발견된 지 이틀 뒤 계부가 스스로 목숨을 끊었다고 밝혔다고 전했다. 그녀는 “이런 도구에 대한 무제한적인 접근이 너무 빠르게 확산되고 있다”며 “그것이 일상을 아동성착취물로 만들어버리고 있다”고 말했다. 이번 소송은 지난 3월 테네시주 청소년 3명이 그록이 생성한 미성년자 성적 이미지를 문제 삼아 xAI를 상대로 제기한 집단소송에 추가된 것이다. 그록의 이미지 생성 기능을 둘러싼 논란이 갈수록 커지는 모양새다.

계부가 사진 1장으로 7000장 제작…이틀 뒤 극단적 선택

스타트업포춘(startupfortune.com)에 따르면 지난 7월 캘리포니아 북부지방법원에 제출된 수정 소장에는 이 여성이 와이오밍주 출신으로 현재 20대라고 명시돼 있다. 소장에 따르면 계부는 그녀가 소파에 누워있던 약 11세 무렵의 사진을 올린 뒤 그록을 이용해 약 7000장의 성적으로 노골적인 이미지와 영상을 만들었다. 일부는 근친상간과 강간을 묘사한 것으로 알려졌다.

경찰은 이후 계부의 기기를 압수했고, 포렌식 조사에서 그록이 생성한 것으로 추정되는 이미지·영상 약 7000건이 발견됐다. 아르스 테크니카(Ars Technica)는 소장 내용을 인용해 계부가 보석으로 풀려난 지 이틀 뒤 스스로 목숨을 끊었다고 보도했다. 소장은 이 사건이 단순히 AI 이미지 도구의 위험성을 지적하는 차원이 아니라, 특정 신고와 특정 누락, 그리고 지연된 조사 과정을 구체적으로 짚고 있다는 점에서 성격이 다르다.

xAI, 2월에 경고받았지만 신고 부실 의혹

소장의 핵심 쟁점 중 하나는 xAI가 이미 지난 2월 문제를 인지하고 있었다는 주장이다. 연방법상 온라인 플랫폼은 아동성착취물로 의심되는 콘텐츠를 미국 실종·학대아동보호센터(NCMEC)에 신고해야 한다. 소장은 xAI가 2월 실제로 사이버팁(CyberTip)을 신고했지만, 여기에는 원본 사진만 포함됐고 그록이 만들어낸 수천 장의 이미지나 계정에 연결된 IP주소는 빠져 있었다고 주장한다.

원고 측 변호를 맡은 리프 캐브레이저(Lieff Cabraser)와 배어존스 로(Baehr-Jones Law) 소속 변호사들은 수사관들이 위치 정보를 요청했지만 xAI가 응답하지 않아 조사가 수주간 지연됐다고 밝혔다. 스타트업포춘은 이 대목을 두고 “이틀이 중요했다”고 짚었다. 계부가 보석으로 풀려나고 스스로 목숨을 끊기까지의 시간이 바로 그 지연과 맞물려 있다는 뜻이다. 법원은 기업이 대외적으로 “대규모로 학대를 신고하고 있다”고 말하는 것과, 실제 한 피해자의 사건이 시스템에 접수됐을 때 어떤 조치를 취했는지를 별도로 판단하게 된다.

소송 규모 확대…와이오밍·위스콘신 추가, 스태빌리티AI도 피고로

이 사건은 지난 3월 테네시주 청소년 3명이 시작한 집단소송에 추가됐다. KPBS는 NPR 보도를 인용해 수정 소장에 와이오밍과 위스콘신 원고가 각각 1명씩 추가됐고, 소송 대상도 스테이블 디퓨전(Stable Diffusion)을 만든 스태빌리티AI(Stability AI)로 확대됐다고 전했다.

디지털증오대응센터(Center for Countering Digital Hate)는 지난 12월 말부터 1월 초까지 11일간을 분석해 그록이 이 기간 약 300만 장의 성적인 포토리얼리스틱 이미지를 생성했고, 이 중 약 2만3000장은 아동을 묘사한 것으로 보인다고 추정했다. 와이어드(Wired) 등 매체는 여러 주 검찰총장이 그록의 비동의 성적 이미지 처리 방식을 문제 삼기 시작한 이후 이 분석 결과를 보도했다. 실제로 X(옛 트위터)는 올 초 그록이 생성한 성적인 이미지 수백만 건으로 뒤덮인 바 있다.

사이버스쿠프(CyberScoop)는 수정 소장이 스테이블 디퓨전 1.0이 학습 데이터 관련 우려에도 오픈웨이트(open-weight, 가중치를 공개한) 모델로 출시됐고, 이후의 가드레일(안전장치) 정책이 제3자 ‘누드화’ 앱 확산을 도왔다고 주장한다고 보도했다. 스태빌리티AI는 이 같은 주장에 반박했다. 아르스 테크니카에 따르면 이 회사는 오용 방지에 힘쓰고 있으며 안전이 최우선 과제가 아니라는 주장은 명백히 잘못됐다고 밝혔다.

xAI는 오히려 이용자를 맞소송…1조 넘는 몸값 기업의 침묵

xAI는 자사가 오히려 악용 피해자라는 입장도 취하고 있다. 지난 7월 14일 X.AI LLC는 텍사스 연방법원에 테리 웨인 하우드(Terry Wayne Harwood)를 상대로 소송을 냈다. 그가 그록 계정을 이용해 성인과 미성년자에 대한 비동의 성적 딥페이크를 만들었다는 계약 위반 소송이다. 저스티아(Justia) 판례 기록에 따르면 이 사건은 X.AI LLC v. Harwood로 텍사스 북부지방법원에 접수됐다. 사우스캐롤라이나주 검찰총장은 지난 3월 하우드가 아동성착취물 관련 혐의로 체포됐다고 발표했는데, 해당 검찰청은 유죄가 확정되기 전까지 피의자는 무죄로 추정된다고 밝혔다.

xAI가 한 법원에서는 이용자가 그록을 무기화했다고 주장하면서, 다른 법원에서는 원고들로부터 자사의 설계·신고 실패가 학대를 방조했다는 지적을 받는 셈이다. 회사를 둘러싼 배경도 소송 초기와는 달라졌다. 지난 2월 스페이스X(SpaceX)가 xAI를 인수했고, 테크크런치는 블룸버그가 합병 회사의 가치를 약 1조 2500억 달러(약 1,769조 원, 1달러 1,415원 기준)로 평가했다고 보도했다. 지난 7월 xAI는 스페이스XAI(SpaceXAI)로 사명을 바꿨지만 그록이라는 서비스명은 그대로 유지했다.

xAI는 아직 Jane Doe 4의 수정 소장 주장에 공개적으로 답하지 않았다. 사이버스쿠프에 따르면 xAI와 스태빌리티AI 모두 확대된 소송에 대한 논평 요청에 응답하지 않았다. 그록이 사진 한 장으로 수천 장의 성착취물을 만들어냈다는 의혹 앞에서, 회사가 수사관들에게 필요한 정보를 제대로 제공했는지는 이제 법원의 판단으로 넘어갔다.