EU AI법 제50조 8월2일 발효…AI 콘텐츠 미표시 땐 매출 3% 과징금

유럽연합(EU)이 인공지능(AI) 생성 콘텐츠에 대한 투명성 의무를 본격적으로 집행하기 시작했다. EU AI법(AI Act) 제50조가 8월 2일(현지시각)부터 시행되면서, 사람이나 사물·장소·사건을 실제처럼 묘사하는 AI 생성 이미지·영상·음성은 반드시 AI로 만들어졌다는 사실을 표시해야 한다. 사람의 편집·검토를 거치지 않은 채 공익 관련 주제를 다루는 AI 생성 텍스트도 공개 대상이다. 이를 어긴 기업은 최대 1500만 유로(약 2450만 달러) 또는 전 세계 연간 매출의 최대 3%에 해당하는 과징금을 물 수 있다. 다만 전문가들은 라벨 표시가 오히려 사람들의 경계심을 낮춰 딥페이크 식별을 더 어렵게 만들 수 있다는 우려도 제기하고 있다.

이미지부터 텍스트까지…무엇을 표시해야 하나

제50조가 규정하는 투명성 의무는 크게 두 갈래다. 실제 존재하는 인물·사물·장소·단체·사건을 닮게 만들어졌거나 조작된 AI 생성 이미지, 음성, 영상은 그 사실을 공개해야 한다. 또 사람의 검토나 편집 통제를 거치지 않은 채 공익적 주제를 다루는 AI 생성·조작 텍스트도 마찬가지로 공개 의무가 있다.

EU는 이를 위해 별도의 아이콘 세트를 개발했다. 실제처럼 보이는 AI 콘텐츠에는 이 아이콘을 붙여야 하고, 음성 딥페이크의 경우 콘텐츠 시작 부분에 짧은 음성 경고 문구를 넣어야 한다. 아이콘은 사용자가 콘텐츠를 처음 접하는 순간 명확히 보여야 하며, 다른 요소에 가려지지 않고 콘텐츠에 내재돼 있어 공유되거나 다운로드된 뒤에도 계속 표시돼야 한다. EU가 만든 아이콘 사용 자체는 선택 사항이지만, 법에 따른 공개 의무 자체는 어떤 방식을 택하든 반드시 지켜야 한다. 다만 명백히 예술적이거나 창작·풍자·허구적 성격의 AI 생성 콘텐츠는 작품의 감상이나 표현을 방해하지 않는 수준에서만 공개하면 된다.

보이지 않는 워터마크까지…클로드도 대응 나서

새 규정은 눈에 보이는 라벨뿐 아니라, 기계가 판독할 수 있는 보이지 않는 워터마크를 콘텐츠에 삽입하도록 요구한다는 점도 눈에 띈다. 이는 AI 시스템으로 생성됐거나 처리된 모든 콘텐츠에 적용된다. 대표적인 AI 기업 앤트로픽(Anthropic)은 이 규정에 맞춰 8월 2일 이후 EU에서 출시되는 모든 클로드(Claude) 챗봇 모델이 기계 판독 가능한 워터마크 표시를 지원하도록 하겠다고 밝혔다. 앤트로픽은 이전에 나온 클로드 모델에도 이 기능을 추가하는 작업을 진행 중이라고 설명했다.

이번 규정은 EU 역내 기업에만 국한되지 않는다. EU 밖에 있는 기업이라도 EU 거주자가 볼 수 있는 AI 생성 콘텐츠를 만든다면 규제 대상이 된다. 반면 개인이 사적이거나 비직업적 목적으로 만든 콘텐츠에는 이 법이 적용되지 않는다. 이 때문에 일부 AI 생성 콘텐츠의 공개를 강제하는 데는 한계가 있다는 지적도 나온다. 호주 등 다른 국가들은 AI 개발사에 콘텐츠 표시를 권고하는 수준에 머물러 있는데, EU의 이번 조치는 이보다 한 단계 더 나아간 것으로 평가된다.

라벨이 오히려 역효과를 부를 수 있다는 우려

전문가들은 라벨 표시 의무화가 의도와 반대되는 이른바 “부메랑 효과”를 낳을 수 있다고 경고한다. 사람들이 AI 생성 콘텐츠에 라벨이 붙는 것을 당연하게 여기게 되면, 라벨이 없는 콘텐츠를 무조건 진짜로 오인할 위험이 커진다는 것이다. 문제는 애초에 사람을 속이려는 악의적 행위자들은 자신이 만든 콘텐츠에 AI 사용 사실을 밝힐 이유가 없다는 점이다. 시민을 보호하려는 정부의 공개 조치가 오히려 다른 디지털 콘텐츠에 대한 비판적 검토를 줄이는 부작용으로 이어질 수 있다는 지적이다.

실제로 정교한 AI 생성 콘텐츠를 마주했을 때 사람들이 실제와 가짜를 구별하는 능력이 동전 던지기보다 별로 나을 게 없다는 연구 결과도 있다. 라벨의 존재 여부와 표시 시점이 사람들이 콘텐츠에 반응하는 방식에 영향을 준다는 연구도 나왔다. 즉 라벨의 효과는 단순히 라벨이 붙어 있느냐가 아니라 사람들이 그것을 어떻게 해석하고 활용하느냐에 달려 있다는 것이다. 특히 콘텐츠가 확산되기 시작하거나 그 내용을 뒷받침하는 댓글이 붙으면 사람들이 허위정보에 더 취약해진다는 연구 결과도 있다. 이런 사회적 신호는 콘텐츠의 진위를 알리는 정보보다 더 큰 영향을 미치며 라벨의 효과를 상쇄할 수 있다.

라벨만으로는 부족…AI 리터러시가 관건

라벨 표시만으로 AI 생성 콘텐츠를 식별하는 데는 한계가 있다는 목소리도 크다. 사람들은 표정이나 발화, 음성의 부자연스러운 부분처럼 AI가 만든 콘텐츠 특유의 흔적에도 주의를 기울여야 한다. 다만 AI 기술이 점점 정교해지면서 이런 흔적을 알아채기가 갈수록 어려워지고 있다는 점이 문제다. 이 때문에 콘텐츠를 누가 만들고 공유했는지, 그 출처가 믿을 만한지, 내용이 논리적으로 맞는지, 다른 곳에서 검증할 수 있는지를 함께 살펴야 한다는 지적이 나온다.

결국 라벨은 AI 생성 콘텐츠를 판별하는 여러 수단 중 하나일 뿐, 그것을 대체할 수는 없다는 게 핵심이다. 합성 콘텐츠와 실제 콘텐츠의 경계가 점점 흐려지는 상황에서, 정부와 기술 기업들은 라벨 부착에만 의존하지 않고 시민들이 온라인에서 접하는 정보를 스스로 판단할 수 있도록 돕는 AI 리터러시 교육에도 더 힘을 쏟아야 한다는 목소리가 커지고 있다.