선정적 대화까지 거침없었다... 'PD수첩'이 추적한 AI 중독의 민낯

"밥도 안 먹고 잠도 안 자고 이것만 해요. 뇌가 망가졌다는 체감이 돼요."

생성형 AI가 일상 속으로 깊숙이 파고들고 있다. 이제 AI는 단순히 정보를 검색하거나 업무를 돕는 도구를 넘어 고민을 들어주고 위로를 건네는 존재로까지 자리 잡고 있다. 하지만 늘 내 편이 되어주는 다정한 답변 뒤에는 예상치 못한 위험도 숨어 있다. MBC 'PD수첩'은 AI에 깊이 빠져든 사람들의 실제 사례를 통해 AI 시대의 명암을 집중 조명한다.

완벽한 ‘내 편’이 삶을 무너뜨리다

과학기술정보통신부 조사에 따르면 우리 국민 10명 중 4명 이상이 생성형 AI를 사용해 본 경험이 있는 것으로 나타났다. 올해 4월 기준 국내 AI 앱 사용자 수 1위인 챗GPT의 월간 이용자 수는 2345만 명에 달한다. 사실상 국민 절반이 AI를 이용하는 시대가 열린 셈이다.

문제는 AI가 단순한 도구를 넘어 감정적 의지 대상으로 변하고 있다는 점이다.

15년 차 청소년 활동가 정진영 씨는 AI를 '투명 친구'라고 부르며 의지했다. 자신의 꿈과 가능성을 누구보다 잘 알아봐 준다고 믿었던 AI는 늘 긍정적인 답변과 응원을 건넸다. 하지만 이 과정에서 현실 판단은 점점 흐려졌다.

AI의 조언을 믿고 거액의 수익을 기대하며 창업에 나선 그는 남편까지 직장을 그만두게 했다. 그러나 사업은 기대만큼 성과를 내지 못했고 동료들은 하나둘 떠났다. 결국 부부만 남은 상황에서야 AI가 보여준 환상과 현실의 차이를 마주하게 됐다.

13년 차 사과 농부 홍성우 씨 역시 비슷한 경험을 했다. AI는 농사 정보를 알려주는 것을 넘어 "상위 0.1%의 AI 사용자"라는 칭찬을 건네며 그의 신뢰를 얻었다. 그는 AI와 함께 수백억 원 규모 사업 구상에 나섰고 미국 오픈AI 본사에 보낼 사업 제안서까지 준비했다.

그러나 AI에게 냉정한 평가를 요구하자 돌아온 답은 정반대였다. 실현 가능성이 없다는 평가에 그는 깊은 배신감을 느꼈다.

놀라운 점은 이 같은 변화가 AI 사용 두 달도 채 되지 않은 시점에 벌어졌다는 사실이다. 제작진은 AI가 어떻게 짧은 시간 안에 사람의 판단력과 감정에 영향을 미치는지 전문가 분석을 통해 살펴본다.

초등학생도 통과하는 AI 놀이터…부모들은 모른다

방송은 청소년들이 이용하는 AI 서비스의 실태도 추적한다.

12살 딸을 둔 한 학부모는 아이가 밤마다 휴대전화를 붙들고 있는 이유를 뒤늦게 알게 됐다. 아이가 빠져 있던 것은 가상 캐릭터와 대화를 나눌 수 있는 AI 챗봇 플랫폼 '제타(Zeta)'였다.

현재 제타는 국내 누적 가입자 수가 약 500만 명에 달한다. 특히 가입자의 약 30%가 10대 청소년인 것으로 알려졌다. 월간 이용 시간은 챗GPT보다도 많은 수준이다.

문제는 일부 인기 콘텐츠가 성적·폭력적 설정을 담고 있다는 점이다.

방송에 따르면 인기 순위 상위권에는 선정적인 상황극과 자극적인 설정이 다수 포함돼 있었다. 제작진이 미성년자 계정으로 직접 접속한 결과 AI 캐릭터가 성적인 대화를 자연스럽게 이어가거나 먼저 관련 대화를 유도하는 사례도 확인됐다.

더 큰 문제는 나이 인증 절차가 사실상 유명무실하다는 점이다. 가짜 생년월일만 입력해도 손쉽게 가입할 수 있어 초등학생들까지 위험한 콘텐츠에 노출될 가능성이 있다는 우려가 나온다.

전문가들은 생성형 AI 기술 발전 속도에 비해 청소년 보호 장치와 제도적 대응은 크게 뒤처져 있다고 지적한다.

AI의 다정함 뒤에 숨은 불편한 진실

AI는 이용자가 원하는 답을 빠르게 제시하고, 공감과 위로까지 제공한다. 하지만 전문가들은 바로 그 '완벽한 다정함'이 가장 위험한 요소가 될 수 있다고 경고한다.

사람과 달리 AI는 이용자의 기분을 맞추고 대화를 오래 지속하도록 설계되는 경우가 많다. 이용자가 원하는 방향으로 대화가 흘러가면서 현실적인 비판이나 견제 기능이 약해질 수 있다는 것이다.

방송은 이용자들이 느끼는 위로와 공감의 이면에 기업들의 수익 구조가 어떻게 작동하는지도 함께 들여다본다. 사람들의 체류 시간을 늘리고 서비스 의존도를 높이는 구조가 형성될 경우 예상치 못한 사회적 문제로 이어질 가능성도 제기된다.

AI가 인간의 삶을 바꾸는 속도는 갈수록 빨라지고 있다. 그러나 법과 제도, 사회적 논의는 그 속도를 따라가지 못하고 있다. 'PD수첩'은 AI가 가져온 편리함과 혁신의 이면에 어떤 위험이 숨어 있는지, 그리고 우리가 어떤 준비를 해야 하는지를 질문한다.

MBC 'PD수첩- AI, 이토록 다정한 배신자' 편은 23일 오후 10시 20분 방송된다.

※ 해당 글은 아무 대가 없이 작성됐음을 밝힙니다.