EU, AI 생성물 표시 의무화…위반 기업엔 매출 3% 벌금

유럽연합(EU)에서 인공지능(AI)이 만든 콘텐츠임을 반드시 알려야 하는 새 규정이 시작됐다. 일요일인 8월 2일(현지시각)부터 EU의 인공지능법(AI Act) 투명성 조항이 발효되면서, 챗봇이나 딥페이크, AI가 작성한 글 등에는 이용자가 한눈에 AI 산물임을 알 수 있도록 표시가 붙어야 한다. 규정을 어긴 기업은 최대 1500만 유로(약 1700만 달러) 또는 전 세계 연간 매출의 3% 중 더 큰 금액을 벌금으로 물어야 한다. EU는 이번 조치의 목적이 시민들이 보고 듣고 읽는 정보가 진짜인지 가짜인지 구분할 수 있는 능력을 지키는 데 있다고 설명한다. 앞서 미국 캘리포니아주에서도 AI로 만든 이미지·영상에 출처 정보를 심는 투명성법이 비슷한 시기에 시행되며, AI 콘텐츠 표시를 둘러싼 규제 흐름이 전 세계적으로 확산하는 모양새다.

무엇이 바뀌나: 챗봇부터 광고까지 전방위 표시 의무

이번에 시행된 규정에 따라 기업은 챗봇 같은 AI 시스템이 이용자와 대화하고 있다는 사실을 명확히 알려야 한다. 이미지나 텍스트가 AI로 만들어졌다면 워터마크 등 식별 표지를 붙여 쉽게 감지할 수 있도록 해야 한다. 이와 함께 감정 인식·생체 정보 분류 기술, 딥페이크, 인간의 편집 검토 없이 AI가 작성해 공익적 사안을 다루는 텍스트에 노출될 경우에도 이용자에게 그 사실을 알려야 한다는 조항이 포함됐다.

와이어드(Wired)에 따르면 딥페이크를 활용한 광고나 기업 소셜미디어 게시물에는 AI 생성물이라는 표시가 붙는다. 민원이나 상담을 처리하는 챗봇·상담 전화도 AI 기반임을 명확히 밝혀야 하고, 통화 중 발신자의 감정을 인식하는 기술을 쓰는 콜센터는 통화 시작 시점에 이를 고지해야 한다. 일정 관리나 서신 처리, 계약 협상처럼 기업이 업무에 AI를 상업적으로 활용하는 경우도 예외 없이 공개 대상이다. 스티베(Stibbe)의 기술 전문 변호사 프레데릭 페른하우트(Frederiek Fernhout)는 “기업이 투명성 의무를 정말 성실히 지킨다면 얼마나 많은 곳에서 AI가 쓰이는지가 아주 뚜렷하게 드러날 것”이라며 “특히 마케팅 분야에서 그럴 것”이라고 말했다. 같은 로펌의 티보 뒤캥(Thibau Duquin) 변호사는 “들여다보기 시작하면 AI는 어디에나 있다는 걸 알게 된다. 이제부터는 이 모든 콘텐츠에 라벨을 붙여야 한다”고 지적했다. 오픈AI, 앤트로픽, 구글 딥마인드 같은 대형 모델 개발사뿐 아니라 AI 추천 기능을 쓰는 스포티파이, 포토샵의 AI 편집 기능을 제공하는 어도비 같은 기업도 규제 대상에 포함된다고 뒤캥 변호사는 설명했다. 다만 개인이 순전히 사적인 목적으로 AI를 쓰는 경우는 규제 대상에서 빠지며, 예술·창작·풍자·허구적 작품에도 예외가 적용된다.

왜 지금 이 규제가 필요한가

한 EU 관계자는 “생성형 AI는 전례 없는 규모로, 특정 대상에 맞춰, 놀랄 만큼 빠른 속도로 허위정보를 만들어낼 수 있게 한다”고 밝혔다. 이 관계자는 AI가 “무엇이 실제이고 무엇이 합성물인지 구분하기 점점 더 어렵게 만들고 있다”며 EU의 규정이 “시민들이 보고 듣고 읽는 것을 신뢰할 수 있는 능력을 지키는 것”을 목표로 한다고 설명했다. EU가 특히 주목하는 대상은 실제처럼 보이지만 AI로 만들어지거나 조작된 텍스트·이미지·영상·음성인 딥페이크다.

International Association of Privacy Professionals의 애슐리 카소반(Ashley Casovan)은 “이행이 아주 어려울 것이라는 이야기를 많이 들었다”면서도 “규제 준수 요건에 대해서는 늘 이런 이야기가 나오지만, 결국 세상은 돌아가고 우리는 방법을 찾아낸다”고 말했다.

빅테크는 이미 대응 시작…구글은 “라벨 과잉” 우려

세계적인 IT 기업들은 규정 시행에 앞서 자체적으로 라벨을 붙이기 시작했다. 틱톡(TikTok)은 몇 년 전부터 크리에이터에게 AI로 만든 이미지·음성·영상에 라벨을 달도록 요구해왔고, 자체 도구와 탐지 기술로 이미 30억 건 넘는 콘텐츠에 라벨이 붙었다고 밝혔다. 메타(Meta)도 인스타그램과 페이스북에서 AI 기술을 사용한 게시물에 ‘AI 정보(AI Info)’ 라벨을 적용하고 있다. 구글은 EU의 AI 투명성 행동 규약에 서명했고, 엔비디아·오픈AI·애플 등과 함께 디지털 태깅 도구를 개발하고 있다고 밝혔다.

그러나 구글의 캐런 매신(Karen Massin)은 “규제의 복잡성”이 오히려 역효과를 낼 수 있다고 경고했다. 그는 “이 규정이 도우려는 사람들을 혼란스럽게 만들 위험이 있다”며 “온라인 콘텐츠가 겹겹이 쌓인 AI 라벨과 법적 고지문으로 넘쳐나면, 사람들이 필요한 명확한 맥락을 얻기가 더 어려워진다”고 지적했다. 미국 컴퓨터통신산업협회(CCIA)의 AI 정책 담당 보니페이스 드 샹프리(Boniface de Champris)도 이보다 앞서 “과도한 라벨링은 끊임없는 알림으로 인한 ‘배너 무시(banner blindness)’ 현상을 부를 수 있다”고 경고했다. 그는 “단순히 맞춤법을 검사한 이메일이나 필터를 적용한 사진까지 전부 표시해야 한다면, AI 콘텐츠 라벨링은 모든 의미를 잃게 될 것”이라고 우려했다.

시행 초기 혼란 불가피…GDPR 데자뷔 우려도

이미 시장에 나와 있는 AI 시스템은 2026년 12월 2일까지 새 규정에 맞춰 조정할 유예 기간을 받는다. 이 유예기간은 AI 모델 제공업체가 합성 음성·이미지·영상·텍스트를 기계 판독이 가능한 형식으로 표시해 AI 생성물임을 탐지할 수 있게 만드는 작업에도 적용된다. 이는 관련 기술 구현이 만만치 않다는 점을 EU도 인정한 조치다. 실제로 유럽 AI청(AI Office)이 핵심 이행 지침을 만드는 데 예상보다 시간이 오래 걸리면서, 법 안의 다른 준수 기한들도 이미 연기된 상태다.

노턴로즈풀브라이트(Norton Rose Fulbright)의 데이터·AI 규제 전문 변호사 로지 낸스(Rosie Nance)는 EU 27개 회원국이 각자 다른 단계에서 감독 체계를 구축하고 있다는 점을 지적하며 “집행이 우리가 생각하는 것처럼 시행 첫날부터 즉각적이거나 일관되게 이뤄지지는 않을 것”이라고 말했다. 그는 “처음부터 일관된 집행을 보게 되지는 않을 것”이라고 덧붙였다. 페른하우트 변호사 역시 “아직 많은 용어가 명확하지 않아 당국의 구체적인 지침이 필요한데, 여기서도 같은 일이 벌어질 것”이라며 “기술적으로도 매우 복잡해 이런 요건들을 시스템 내부에 직접 구축해야 하는 만큼 상황이 더 어려워진다”고 지적했다. 이 같은 혼란은 2018년 발효돼 이른바 ‘쿠키 피로감’을 낳았던 EU의 개인정보보호법 GDPR 시행 초기와 닮아 있다는 평가도 나온다.

그럼에도 뒤캥 변호사는 이번 규정의 광범위한 적용 범위가 결국 기업들에게 “게임체인저”가 될 것이라고 전망했다. 그는 “기업들이 라벨을 붙이는 데 편안함을 느낄지, 아니면 AI 기반이 아닌 시스템으로 되돌아갈지 지켜봐야 한다”며 “수작업으로 되돌아갈지, 아니면 AI 사용 규모를 투명하게 공개하는 위험을 감수하면서도 계속 AI를 전면적으로 쓰고 그 사실을 공개할지 기업들의 선택에 달려 있다”고 말했다.