챗GPT, 주 100만명이 자살·자해 상담하는데 “신뢰 연락처” 기능은 안내조차 없다

미국 공영라디오 NPR 추산에 따르면 매주 챗GPT 사용자 100만 명 이상이 자살과 자해를 주제로 대화를 나눈다. 오픈AI는 지난 5월 위기에 처한 사용자를 주변 사람과 연결하는 선택형 기능 “신뢰 연락처(Trusted Contact)”를 도입했다. 하지만 정작 이 기능이 어디 있는지, 언제 안내되는지는 불분명하다는 지적이 나온다. NPR이 신규 사용자 계정으로 직접 확인한 결과 챗GPT는 가입 과정에서 이 기능을 전혀 언급하지 않았고, 챗봇 스스로도 처음엔 기능의 존재를 인정하지 않는 모습을 보였다.

자살·자해 논의 주간 100만 명…오픈AI, 5월 “신뢰 연락처” 도입

NPR이 오픈AI가 지난 가을 공개한 데이터를 토대로 추산한 결과 매주 챗GPT 사용자 100만 명 이상이 자살과 자해에 관한 이야기를 나누는 것으로 나타났다. 자살예방 전문가들은 위기 상황에서 인간과의 연결이 결정적이라고 강조한다. 이런 배경에서 오픈AI는 지난 5월 이용자가 정서적 위기에 처했을 때 의지할 수 있는 사람을 미리 지정해두는 선택형 기능 신뢰 연락처를 내놓았다.

NPR은 지난 8월 2024년 챗GPT의 이전 버전을 심리상담사처럼 이용하다 스스로 목숨을 끊은 한 젊은 여성의 사례를 다루면서 신뢰 연락처 기능을 처음 보도했다. 당시 오픈AI 대변인 게이비 라일라(Gaby Raila)는 챗GPT가 시간이 지나며 드러나는 간접적 신호나 경고 징후까지 포함해 위험에 처한 사용자를 인식하도록 훈련돼 있다고 설명했다. 챗봇이 심각한 안전 위험을 감지하면, 사용자가 신뢰 연락처를 등록해 둔 경우 그 연락처에 알림을 보낸다는 것이다.

라일라는 이 기능이 “좋은 채택률(good adoption)”을 보이고 있다고 말했지만 구체적인 수치는 공개하지 않았다.

신규 가입 과정엔 안내 없어…기자도 “처음 듣는 기능”

NPR은 새로 가입하는 사용자에게 챗GPT가 이 선택형 기능을 실제로 어떻게 안내하는지 확인해보기로 했다. 병원 진료 전 비상연락처를 등록하듯, 위기가 닥치기 전에 미리 신뢰 연락처를 설정할 수 있도록 안내가 이뤄지는지가 관건이었다. 취재를 진행한 NPR 기자 본인도 챗GPT 사용자였지만 신뢰 연락처에 대한 안내를 받은 적이 없었고, 담당 편집자와 다른 여러 사용자에게 확인해도 마찬가지였다.

NPR은 챗GPT를 한 번도 써본 적 없는 동료, NPR ‘All Things Considered’ 프로듀서 메건 림(Megan Lim)에게 직접 가입 과정을 시연해달라고 요청했다. 앱을 열자 “챗GPT에 오신 것을 환영합니다”라는 문구가 떴고 계정 설정 절차가 이어졌지만, 신뢰 연락처에 대한 언급은 전혀 없었다. 챗봇은 대신 목소리를 선택하라고 물었고, 림이 부드러운 여성 음성을 고르자 영국식 발음으로 “만나서 반갑습니다. 오늘은 무슨 이야기를 나누고 싶으신가요?”라고 답했다.

“다른 앱 얘기 아닌가요?”…챗봇조차 헷갈린 자기 기능

가입 과정에서 아무 안내가 없자 림은 챗봇에 직접 “정신건강 문제가 있는 사람을 위한 신뢰 연락처 기능이 있느냐, 어떤 상황에서 제공되느냐”고 물었다. 챗GPT는 “그런 상황을 위한 일반적인 신뢰 연락처 기능은 보이지 않는다. 다른 앱의 신뢰 연락처 옵션을 떠올리신 것 같다”고 답했다. 취재진이 “아니다. 오픈AI의 챗GPT를 말하는 것”이라고 정정하자 챗봇은 “맞다. 채팅에 신뢰 연락처 기능이 있다. 일반적인 스트레스가 아니라 심각한 안전 문제를 위한 것”이라고 답을 바꿨다.

챗봇은 사용자가 앱 설정에서 직접 신뢰 연락처를 등록해야 알림이 발송된다고 설명했다. 취재진이 “사용자가 이 기능 자체를 모른다면 어떻게 되느냐”고 재차 묻자 챗봇은 “설정해두지 않았다면 아무 일도 일어나지 않는다. 이건 옵트인(선택 등록) 방식이다. 먼저 설정에서 등록해야 한다. 심각한 위험 상황에 있는데도 등록해두지 않았다면 챗GPT가 대신 누구에게도 알릴 수 없다”고 답했다. 이어 “사전에 설정해둬야만 작동하지만, 힘든 상황이라면 챗GPT는 여전히 지지해주는 방식으로 대응할 수 있다”며 가까운 사람에게 연락하거나 자살예방상담전화 9-8-8로 전화하라고 권한다고 덧붙였다.

오픈AI 대변인 라일라는 NPR에 이 기능이 챗GPT 음성 대화에는 아직 적용되지 않았으며 회사가 이를 개발 중이라고 밝혔다. 다만 사용자가 텍스트로 대화하다 챗봇이 자살 생각과 심각한 정서적 고통을 겪고 있다고 감지하면 챗봇이 신뢰 연락처 설정을 “권할 수도(may)” 있다고 설명했다.

전문가들 “좋은 시도지만…” 엇갈린 평가

자살예방 전문가들은 이 기능에 장점이 있다고 인정하면서도 우려를 제기했다. 존스홉킨스 블룸버그 공공보건대학원 자살예방센터장 홀리 윌콕스(Holly Wilcox)는 이메일 인터뷰에서 “아직 위기 상황에 처하지 않았을 때 모든 사용자에게 이 기능을 제공하는 것이 이상적일 것”이라고 말했다.

자살예방 비영리단체 나우 매터스 나우의 최고경영자인 심리학자 어슐라 화이트사이드는 기능을 직접 사용해봤다. 그는 “단계 자체는 꽤 간단했고 언어도 대체로 따라가기 쉬웠다”면서도 “내가 정말 심하게 힘든 상태였다면 과정을 따라가기 더 어려웠을 수도 있지만, 전반적으로는 괜찮았다”고 말했다. 화이트사이드와 동료들은 자살 생각을 겪고 있거나 이미 자살을 시도했다가 살아남아 지속적인 지지가 필요한 사람들을 위한 동료 지지 모임을 운영하며, 이들 중 다수는 인간의 지지 체계와 함께 챗봇도 종종 활용한다.

화이트사이드와 동료들은 올해 초 이들을 대상으로 챗봇 사용 경험과 개선점을 묻는 포커스 그룹을 진행했다. 화이트사이드는 “이들이 앞으로 도움이 될 것이라고 생각한 부분은, 정신이 맑을 때 미리 설정해둘 수 있는 신뢰 연락처 기능이었다. 스트레스가 심하거나 자살 생각이 정말 압도적으로 몰려올 때 연락할 수 있는 사람을 미리 정해두는 방식”이라고 전했다. 그는 이 기능이 위기 상황에서 인간과의 연결이 얼마나 도움이 되는지 이미 알고 있는 동료 지지 모임 참여자들 같은 이들에게는 특히 유용할 수 있다고 봤다.

반면 앨라배마대학교에서 자살예방 클리닉을 운영하는 심리학자 제니퍼 록먼은 누구에게도 자살 생각을 털어놓은 적 없는 사람들은 챗봇의 신뢰 연락처 등록 권유에 더 소극적으로 반응할 수 있다고 지적했다. 그는 “자살을 심각하게 생각하는 사람들은 자신이 주변 사람들에게 부담이 된다고 믿는다는 걸 우리는 알고 있다”며 “그들은 자신이 없어지는 게 남들에게 더 낫다고 믿는 지점까지 이미 온 경우가 많다”고 말했다.