인공지능(AI) 기술이 일상에 빠르게 확산하면서 이를 악용한 조작 사례도 늘고 있다. 소비자들이 매장 방문 전 가장 신뢰하는 정보로 꼽는 영수증 인증 리뷰마저 AI 프로그램으로 정교하게 위조되는 사례가 잇따르고 있다.
국내 최대 포털 네이버는 스마트 플레이스 사업자가 허위 영수증 등을 활용해 리뷰를 조작하는 행위에 대해 제재를 강화한다고 28일 밝혔다.
네이버는 대표적인 조작 유형으로 AI·이미지 편집 도구를 활용한 가짜 영수증 제출을 비롯해 실제 서비스 이용 없이 허위 예약을 발행해 리뷰를 작성하는 행위, 광고·홍보 또는 금전적 대가를 목적으로 리뷰 등록을 시도하는 행위 등을 꼽았다. 네이버는 비정상 시도가 확인되는 즉시 해당 리뷰를 삭제하고, 사업주에게 주의 안내문을 발송할 계획이다. 적발된 업체는 향후 수시 점검 대상으로 분류돼 모니터링을 받게 된다.
주의 조치 이후에도 조작 행위가 반복되면 제재 강도는 더욱 높아진다. 재적발 시 해당 업체의 플레이스 페이지에서 ‘리뷰’ 탭 전체가 사용자에게 노출되지 않도록 가림 처리된다. 이 경우 비정상 행위 확인 시점부터 기존에 등록된 리뷰까지 포함해 모든 후기가 최소 1주일간 보이지 않으며, 반복 여부에 따라 제한 기간이 늘어날 수 있다. 아울러 AI가 매장 핵심 정보를 요약해 보여주는 ‘AI 브리핑’ 기능도 해당 업체에는 제공되지 않는다.
AI 기술이 정교해질수록 이를 악용한 가짜 정보 생산 속도도 빨라지는 만큼, 플랫폼 신뢰도를 지키기 위한 기술적·정책적 방어가 중요해졌다는 분석이 나온다. 특히 영수증 리뷰는 소비자의 구매 결정에 직접적인 영향을 미치는 핵심 정보인 만큼, 이를 보호하는 것은 온라인 생태계의 공정성을 확보하는 데 중요한 과제로 꼽힌다. 네이버 관계자는 가짜 영수증을 통한 조작 행위를 집중 단속하고 건강한 리뷰 문화를 조성하기 위한 노력을 이어가겠다고 밝혔다.