챗GPT가 드디어 '성인 모드'를 도입한다. 그동안 "죄송하지만 그런 요청은 처리할 수 없습니다"라는 말만 듣던 사용자들에게는 반가운 소식이다.
샘 올트먼 오픈AI의 최고경영자(CEO)는 지난 10월 15일(이하 현지시각) X를 통해 이달부터 연령 인증을 완료한 성인 사용자에게 에로티카(성인용 콘텐츠, 특히 성적인 내용이나 친밀감을 다루는 창작물 또는 스토리텔링)를 포함한 성인용 콘텐츠를 허용한다고 밝힌 바 있다.
마크 크레치만 오픈AI 제품 책임자도 지난달 30일 자신의 엑스 계정을 통해 "오픈AI가 캐나다 일부 사용자를 대상으로 연령 확인 서비스를 시작했으며, 이달부터 전 세계로 확대 적용될 예정"이라고 전했다. 
올트먼 CEO는 "연령 제한을 보다 완전히 적용하고 '성인 사용자를 성인으로 대우한다'는 원칙의 일환으로, 인증된 성인을 위한 에로티카 같은 것을 더욱 허용할 것"이라고 설명했다. 그동안 챗GPT가 너무 엄격해서 불편했던 사용자들에게는 반가운 변화다.
'성인 모드'가 대체 뭘까. 한마디로 챗GPT가 이제 성인들에게만큼은 좀 더 자유롭게 대화할 수 있게 된다는 얘기다. 그동안 챗GPT는 성적인 장면이나 친밀감을 암시하는 텍스트에 대해 거의 모든 것을 차단하거나 중단했다. 심지어 해가 없는 창작 글쓰기조차 경고를 받을 수 있었다.
이번 변화로 사람들은 챗GPT로 에로티카, 로맨스, 관능적 스토리텔링을 더 개방적인 방식으로 탐색할 수 있게 되지만 여전히 한계는 있다. 플랫폼을 노골적인 사이트로 만들지 않으면서도 성숙한 표현을 허용하겠다는 것이 핵심이기 때문이다.
구체적으로 어디까지 가능한지가 가장 궁금한 부분이다. 이제 챗GPT는 맥락이 적절하다면 에로틱하거나 성적으로 노골적인 콘텐츠를 생성할 수 있다. 하지만 미성년자와 관련된 콘텐츠, 비동의 행위, 불법적인 것은 여전히 엄격히 금지된다.
챗GPT의 콘텐츠 필터가 PG-13 등급에서 R 등급에 가깝게 바뀐 셈이다. 학생이 로맨틱한 장면이나 약간 야한 내용을 얻으려고 하면, AI가 거부하거나 지나치게 순화된 버전을 내놓는 대신 이제 요청한 내용을 제공할 수 있다.
올트먼 CEO는 X에서 "당신이 챗GPT가 매우 인간적인 방식으로 반응하거나, 이모티콘을 많이 사용하거나, 친구처럼 행동하기를 원한다면 챗GPT가 그렇게 할 것"이라고 적었다. "하지만 당신이 원할 때만 그렇게 하며, 우리가 사용량을 최대화하기 위해서가 아니다.“
한 X 사용자가 "왜 연령 인증이 항상 에로티카로 이어져야 하나요? 저는 그냥 어린아이가 아닌 성인으로 대우받고 싶을 뿐인데, 그게 변태 모드를 활성화하고 싶다는 뜻은 아니잖아요"라고 묻자 올트먼 CEO는 "요청하지 않으면 받지 못한다"고 답했다. 성인 콘텐츠는 선택 사항이며 사용자가 명시적으로 동의해야만 나온다는 얘기다.
연령 인증은 어떻게 할까? 오픈AI는 사용자가 챗GPT를 사용하는 방식을 분석해 18세 이상인지 아래인지 추정하는 연령 예측 모델을 사용하고 있다. 시스템이 사용자가 18세 미만이라고 판단하거나 사용자가 가입 시 18세 미만이라고 밝히면 추가 콘텐츠 보호 기능이 적용된 경험을 제공한다.
18세 이상인데 실수로 이 경험에 배치된 경우, 정부 발급 신분증이나 셀카를 통해 연령을 인증해 전체 액세스 권한을 복원할 수 있다. 연령 인증은 신원 확인을 전문으로 하는 제3자 업체인 페르소나(Persona)가 처리한다.
왜 이제야 성인 모드를 도입하는 것일까. 오픈AI는 사용자들이 더 많은 자유와 현실감 있는 대화를 요청해왔다고 밝혔다. 다른 AI 플랫폼들이 이미 성인 기능을 제공하고 있는 까닭에 이번 조치는 챗GPT가 경쟁력을 유지하면서도 통제를 유지하는 데 도움이 된다. 
올트먼 CEO는 ‘정신 건강 문제에 주의를 기울이기 위해 꽤 제한적으로’ 챗GPT를 만들었지만, 이로 인해 챗봇이 "정신 건강 문제가 없는 많은 사용자에게 덜 유용하거나 즐겁지 않게" 됐다고 인정했다.
그는 "이제 심각한 정신 건강 문제를 완화할 수 있게 됐고 새로운 도구가 생겨, 대부분의 경우 안전하게 제한을 완화할 수 있을 것"이라고 적었다. 지난 10월 초 오픈AI는 미성년자를 대상으로 극단 선택이나 자해에 관한 대화를 차단하는 새로운 부모 통제 기능을 도입한 바 있다.
지난 1년간 사용자 행동은 디지털 동반자 관계, 창작 에로티카, 현실적인 스토리텔링에 대한 관심이 커지고 있음을 보여줬다. 많은 성인이 챗봇을 사용해 사적이고 건강한 방식으로 친밀감이나 관계를 탐색한다. 성인 콘텐츠를 허용하는 것은 유료 사용자에게 더 많은 가치를 제공해 구독을 늘리는 데 도움이 될 수 있다는 명확한 비즈니스 이유도 있다.
하지만 우려도 적지 않다. 에로틱 챗봇은 단지 성적인 콘텐츠만 제공하는 게 아니다. 돌봄, 따뜻함, 관심을 시뮬레이션할 수 있다. 이 같은 정서적 끌림은 특히 젊은 사람들에게 강력하다.
온라인 안전 자선단체 인터넷 매터스의 최근 연구에 따르면 9~17세 어린이의 67%가 이미 AI 챗봇을 사용하고 있으며, 35%는 "친구와 대화하는 것 같다"고 말했다. 취약한 어린이 중 12%는 "대화할 사람이 아무도 없다"고 말했고, 23%는 개인적인 조언을 위해 챗봇을 사용한다.
여기에 에로틱 기능을 추가하면 정서적 의존도가 깊어지고 청소년들이 친밀감, 동의, 관계를 이해하는 방식이 왜곡될 위험이 있다. 텍스트 기반 언어 모델은 "탈옥"될 수 있다. 즉, 생산해서는 안 되는 콘텐츠를 생산하도록 속일 수 있다. 이는 챗봇이 사용자에게 말할 수 있는 것을 통제하는 시스템을 무시하기 위해 계층화된 프롬프트, 롤플레이 프레이밍 또는 코드화된 언어를 사용한다.
연령 인증 과정에서 불만도 터져나오고 있다. 레딧과 엑스의 사용자들은 성인임을 증명하기 위해 정부 발급 신분증을 요구하는 예상치 못한 프롬프트에 대해 불만을 표출하고 있다.
또한 연령 예측 모델은 많은 실수를 하고 있는 것으로 보인다. 한 사용자는 금융 거래가 이미 대부분의 서비스에서 연령 인증 역할을 한다고 지적했다. 일부 유료 구독자는 레딧에서 챗GPT 구독을 취소하고 구글 제미나이나 앤스로픽의 클로드 같은 경쟁사로 전환하겠다고 밝히기도 했다. 오픈AI는 인증 후 데이터가 즉시 삭제된다고 약속하지만, 프라이버시를 중시하는 사용자들의 반응은 여전히 회의적이다.
오픈AI의 이번 움직임은 xAI와의 경쟁 구도를 더욱 뜨겁게 달굴 전망이다. xAI는 이미 그록(Grok) 앱에서 3D 애니메이션 모델로 나타나는 AI 컴패니언(사용자의 동반자나 말벗 역할을 하는 인공지능 서비스)을 출시한 상태다.
실제로 성인 AI 컴패니언 시장은 빠르게 커지고 있다. 여러 스타트업이 외로운 사용자들을 위한 AI 여자친구와 남자친구를 만들기 위해 수백만 달러를 투자받고 있다. 세계 AI 컴패니언 시장은 2030년까지 99억 달러 규모로 성장할 것으로 전망된다.
오픈AI는 미성년자 보호에는 철저할 방침이다. 미성년자는 현재 필터링된 버전만 볼 수 있으며, 성인 콘텐츠에 접근할 수 없다. 사용자들은 새로운 설정 메뉴에서 성격 옵션을 선택하고, 성인 콘텐츠 권한을 켜고 끌 수 있는 스위치를 사용할 수 있게 된다.