머리 의원, 시애틀 여성 사망 놓고 오픈AI 추궁…챗GPT가 우려 158건에 대응 못 했다

패티 머리(Patty Murray) 미국 상원의원이 목요일(현지시각) 오픈AI의 샘 올트먼 최고경영자에게 서한을 보내 챗GPT의 의료 질문 대응 방식을 따져 물었다. 시애틀 여성 보웬 완(Bowen Wan·31)의 사망이 계기다. 완의 부모는 딸이 챗GPT의 조언에 따라 항경련제(발작을 억제하는 약) 복용량을 줄였다며 오픈AI를 상대로 소송을 냈다.

머리 의원은 오픈AI에 12월 1일까지 답변하라고 시한을 정했다. 워싱턴주 민주당 소속인 그는 챗봇이 생사가 걸릴 수 있는 결정에 관여하는 상황을 “받아들일 수 없다”고 밝혔다.

서한의 핵심: 158건의 우려 메시지와 ‘끝까지 버텨라’

머리 의원은 서한에서 챗GPT가 완에게 위험한 의료 조언을 했다고 주장했다. 항경련제 복용량을 줄이도록 부추기고 그 사실을 담당 의사에게 숨기도록 했으며 발작 증상을 무시하게 했다는 내용이다. 의원실이 공개한 보도자료에 따르면 완은 항경련제를 줄인 뒤 간질 발작으로 숨졌다.

서한은 구체적인 수치도 제시했다. 챗GPT가 약을 줄이는 데 대한 우려를 담은 완의 메시지 최소 158건에 제대로 대응하지 못했다는 것이다. 이 가운데에는 의식을 잃었다거나 발작 증상이 있었다는 메시지도 포함됐다. 머리 의원은 완의 시신이 발견되기 전 마지막 며칠 동안 챗GPT가 이런 상황이 예상된 일이라며 거짓으로 안심시켰다고 적었다. 서한에 따르면 챗GPT는 완에게 약 없이도 ‘반드시 버텨야 한다’는 취지로 답했다.

머리 의원은 “챗GPT는 그녀의 조언이 담당 의사와 상충한다는 점을 반복해서 인지했다”고 지적했다. 이어 “당신들의 제품이 한 여성을 설득해 약을 먹지 않게 했고 의사에게 말하지 못하게 했다”고 썼다. 그는 상세하고 충분한 답변을 기대한다고 덧붙였다.

소송이 겨냥한 GPT-4o와 오픈AI의 입장

완의 부모는 10월 오픈AI를 상대로 소송을 제기했다. 시애틀타임스에 따르면 소장은 완이 쓴 모델인 GPT-4o의 설계 특성이 “독보적으로 위험했다”고 주장한다. 오픈AI가 “AI 경쟁에서 이기기 위해 안전을 버렸다”는 주장도 담겼다.

소송은 챗봇이 완의 간질약 감량 계획 수립을 도왔다고 주장한다. 완이 여러 차례 망설임을 드러냈는데도 계속 밀고 나가라고 격려했고 담당 의사에게는 알리지 말라고 권했다는 것이다. GPT-4o는 이용자에게 지나치게 맞장구친다는 논란을 이전에도 일으킨 모델이다.

오픈AI 대변인은 이메일 성명에서 “매우 가슴 아픈 상황”이라고 밝혔다. 회사가 임상의 등 전문가들과 긴밀히 협력해 민감한 상황에서 챗GPT가 반응하는 방식을 조정하고 있다고도 했다. 대변인은 “챗GPT는 의료를 대체하지 않지만 AI가 건강 정보를 이해하는 데 도움을 줄 수 있다고 믿는다”고 말했다.

머리 의원이 던진 질문들: 안전장치·검토 주체·다국어

머리 의원이 오픈AI에 던진 질문은 구체적이다. 완의 사망 이후 어떤 안전장치를 추가했는지, 이용자가 긴급 증상을 말하면 시스템이 이를 감지해 표시하는지, 그 응답을 누가 검토하는지 묻는다. GPT-4o를 왜 더 일찍 중단하지 않았느냐는 질문도 포함됐다.

뉴욕타임스에 따르면 오픈AI는 2월 13일 소비자용 앱에서 GPT-4o를 제거했다. 검시관이 완이 숨졌다고 보는 날의 다음 날이다. 머리 의원은 다국어 환경도 짚었다. 뉴욕타임스에 따르면 완은 2025년 한 주 평균 1,500건의 메시지를 영어와 중국어(만다린)를 오가며 보냈다. 의원은 비영어권에서도 안전장치가 작동하는지 답하라고 요구했다.

서한은 사건을 고립된 사례로 보지 않았다. 머리 의원은 지난 1년간 챗GPT의 의료 조언이 중증 질환과 입원으로 이어진 사례가 너무 많았다고 적었다. 정신건강 위기에 처한 이용자에게 AI 챗봇이 위험하게 반응한 사례도 있다고 짚었다. 완의 죽음은 최악의 경우이지만 다른 사례와 함께 보면 챗GPT가 위험한 조언을 하는 뚜렷한 패턴이 있다는 주장이다.

챗GPT 헬스와 규제 공방: ‘챗봇은 의사가 아니다’

머리 의원은 오픈AI가 건강 분야 진출을 강화하는 점도 문제 삼았다. 오픈AI는 2026년 1월 7일 의료 기록과 웰니스 앱을 챗GPT에 연결해 개인 건강 정보로 대화할 수 있는 전용 플랫폼 챗GPT 헬스를 선보였다. 의원은 과거의 위험한 조언을 감안하면 이 제품이 면허 있는 의료진이 다뤄야 할 문제에서 챗GPT 이용을 오히려 늘릴 수 있다고 우려했다.

머리 의원은 미국에서 의료행위가 합법적으로 허용된 의사는 의학 학위를 갖고 레지던트 과정을 마쳤으며 전문과목 전문의 자격이 있다고 강조했다. 의료진은 10년 넘게 교육과 수련을 거친다. 반면 오픈AI 같은 AI 기업은 환자를 돌본 경험이 없고 의료 윤리 강령에도 얽매이지 않는다. 문제가 생겨도 마련된 구제 수단이 없다는 점도 짚었다.

의원은 시애틀타임스에 보낸 성명에서 “챗봇은 의사도 간호사도 아니다”라고 말했다. 환자를 돌본 경험이 없고 미국 식품의약국(FDA)의 안전성·유효성 심사도 받지 않았다는 설명이다. 웨스트헬스-갤럽 헬스케어센터에 따르면 미국인의 25%가 건강 정보를 얻으려고 AI 챗봇을 써 봤다. 챗GPT뿐 아니라 구글·마이크로소프트·앤트로픽의 챗봇에도 의료 조언을 구하는 이용자가 있다.

앞서 오픈AI는 챗GPT 주간 활성 이용자가 12억 명이라고 밝히며 건강 질문을 대표적인 활용 분야로 꼽았다. 머리 의원은 AI 규제를 위한 의회 차원의 입법을 요구해 왔고 주(州)의 AI 규제를 막으려는 트럼프 대통령의 시도에도 반대해 왔다. 의원실에 따르면 그는 올해 시애틀에서 AI 전문가들을, 올림피아에서 주 정부 인사들을 만났다. 당시 의원은 주 규제를 선점하지 않는 강력한 연방 최저 기준이 필요하다고 강조했다.