딥페이크 기술이 청소년들 사이에서 음란물 제작에 악용되고 있는 심각한 상황이 발생했다.
김봉식 서울경찰청장은 26일 서울시 종로구 서울경찰청에서 진행된 기자간담회를 통해 "딥페이크 허위영상물을 만드는데 동료, 학생, 교사에 대한 것까지 만들어서 확산하고 있다"라고 전했다.
이어 "IT 기기에 익숙한 청소년 중심으로 확산해서 굉장히 우려스럽게 생각한다"라고 밝혔다.
서울경찰청 측은 지난달 말 기준 올해 서울에서 딥페이크 영상물과 관련해 검거된 청소년 피의자는 10명이라고 밝혔다.
형사 미성년자(촉법소년)인 만 14세 미만 피의자는 입건 대상에서 제외됐으며, 관련 수사는 서울청 사이버 수사대가 맡아서 진행 중이다.
딥페이크 기술은 특정 인물의 얼굴을 다른 영상이나 사진에 합성하는 기술로, 최근 이 기술을 악용한 사례가 급증하고 있다.
최근 딥페이크 합성 사진이 텔레그램 단체 대화방에서 공유된 사실이 알려져 충격을 안기고 있다.
X(구 트위터) 등 각종 SNS 등을 중심으로 피해 의혹을 받는 학교와 지역 등이 공유되는 '딥페이크 피해자 명단'이 확산되고 있다.
이러한 가운데, 여군을 상대로 한 딥페이크 대화방까지 공개돼 파장을 일으키고 있다.
해당 대화방의 참가자는 900명이 넘었으며, 이들은 딥페이크로 합성한 여군들의 사진을 '군수품'이라고 칭하기도 했다.
여러 온라인 커뮤니티 등을 통해 퍼진 해당 대화방의 공지 사항을 보면, 이 대화방에 참가하기 위해서는 '군수품'으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급과 나이 등 개인정보를 운영자에게 제출해야 한다.
박지현 전 더불어민주당 공동비상대책위원장은 '딥페이크 성범죄' 사건에 대해 국가적 재난 상황을 선포해 대응할 것을 주장했다.
박 전 위원장은 이날 자신의 페이스북에 "대학가 딥페이크 성범죄 사건이 잇따라 알려지며 수많은 여성이 혹시라도 내가 피해자일까 봐 두려워하고 있다"며 "지인이 내 사진을 나체와 합성하고 신상을 유포할까 봐 잠도 못 주무시는 분들이 많다. 어떻게 가해자를 잡을 수 있냐며 새벽에 연락을 주시기도 한다"고 운을 뗐다.
그는 "지인이 내 사진을 나체와 합성하고 신상을 유포할까 봐 잠도 못 주무시는 분들이 많다"며 피해 여성들의 심각한 불안을 전했다. 특히, 그는 "어떻게 가해자를 잡을 수 있을까"라는 질문을 받으며, 피해자들이 느끼는 고통을 강조했다.
박 전 위원장은 딥페이크 성범죄의 문제를 더 심각하게 바라보았다. 그는 "AI봇을 이용해 처음에는 무료로 합성을 하게 해주고, 이후에는 돈을 내거나 AI합성방을 공유하면 추가 '크레딧'을 주는 식으로 여성의 피해를 재화로 거래하고 있다"고 지적했다. 그는 "1분이면 딥페이크 성범죄물이 만들어질 수 있으며, 누구도 인증 절차 없이 방에 들어갈 수 있다"고 경고했다.
또 그는 최근 텔레그램 CEO인 파벨 두로프가 프랑스에서 체포된 사건을 언급하며 "2020년 N번방 사건이 처음 논란이 되었을 때, '텔레그램은 못 잡아요'라는 말로 끝나는 것이 아니라 정부의 피나는 노력이 필요했다"고 회상했다. 그는 현재 윤석열 정부에게 "무엇을 할 것인가"를 묻고, "국가적 재난 상황임을 선포하고, 시급히 대안을 마련해야 한다"고 강조했다.
마지막으로 그는 여성들에게 "혼자 불안해하지 않았으면 좋겠다"며 "우리의 불안과 분노가 이 세상을 조금이나마 나아지게 만든다는 희망을 잃지 않기를 바란다"고 전했다.