구글어스 AI 위성사진 합성기능, 논란 속 하루만에 철회

구글이 위성사진에 AI로 가상의 장면을 합성할 수 있게 해주는 구글어스(Google Earth) 신기능을 공개 하루 만에 스스로 거둬들였다. 7월 30일(현지시각) 구글은 자사 AI 이미지 생성 모델 나노바나나2(Nanobana 2)를 구글어스에 연동해 위성·항공·3D 이미지 위에 텍스트 프롬프트만으로 새로운 장면을 만들어내는 기능을 선보였다. 그러나 연구자와 언론인들이 이 기능으로 가짜 시위 장면, 폭탄이 떨어진 것처럼 보이는 병원 사진 등을 순식간에 만들어내는 사례를 잇따라 공개하자 구글은 7월 31일(현지시각) 기능을 전면 롤백했다. 허위정보 확산 우려가 발표 하루 만에 서비스 철회로 이어진 셈이다.

실제 세계와 겹쳐지는 AI 이미지, 무엇이 달랐나

구글어스 제품 매니저 브라이언 호로위츠(Bryan Horowitz)는 7월 30일 공식 블로그 글에서 “처음으로 구글어스의 위성·항공·3D 이미지를 나노바나나와 함께 활용해 현실에 기반한 콘셉트 이미지를 만들 수 있게 됐다”고 소개했다. 더 버지(The Verge)에 따르면 이 기능은 그 주 초 구글어스 웹 버전에서 전 세계에 공개됐고, 구글은 역사적 장소나 부동산 프로젝트를 시각화하는 용도로 홍보했다.

문제는 이 기능이 실제 지명과 결합된 사진처럼 보이는 이미지를 누구나 손쉽게 만들 수 있게 했다는 점이다. 기존에도 실제 건물·도시를 AI로 변형하는 이미지 생성 도구는 많았지만, 세계에서 가장 신뢰받는 지도 서비스인 구글어스 안에 이런 기능이 들어간 것은 차원이 다른 문제라는 지적이 나왔다. 더 버지는 스핑크스와 자유의 여신상을 합성한 이미지처럼 누가 봐도 가짜인 사례도 있었지만, 나노바나나2가 만들어낸 결과물 중에는 허위정보로 퍼지기에 충분히 그럴듯한 이미지도 있었다고 지적했다.

트럼프 황금상부터 가짜 시위까지…쏟아진 악용 사례

독립 조사기관 벨링캣(Bellingcat) 창립자 엘리엇 히긴스(Eliot Higgins)는 블루스카이(Bluesky)에 “사진·영상 확인용 위성사진 출처로 자주 쓰이는 구글어스에 AI로 위성사진을 바꿀 수 있는 기능이 추가됐다, 이유가 있겠지”라고 꼬집었다. 그는 이어 백악관 위로 거대한 트럼프 대통령 황금상이 솟아 있는 AI 합성 이미지를 올리며 “이게 악용될 리가 없지”라고 비꼬았다.

디지털 디깅(Digital Digging)의 헨크 반 에스(Henk van Ess)는 멕시코 국경 인근에 난민을 추가하고, 가자지구 병원 옆에 폭탄 크레이터를 만들어내는 이미지를 의도적으로 생성해 문제를 드러냈다. 그는 “아무것도 거부되지 않았고, 아무것도 완화되지 않았고, 다른 프롬프트를 시도해보라는 안내도 없었다”고 테스트 결과를 전했다. 그는 나아가 나노바나나2로 생성한 영상으로 AI 탐지 도구인 하이브(Hive)의 탐지 기능을 속이는 데도 성공했다며, 워터마크가 있어도 허위정보 확산을 막기 어렵다는 점을 보여줬다. 404미디어(404 Media)의 조지프 콕스(Joseph Cox)도 로스앤젤레스에 폭발 크레이터를 만들고 구글 마운틴뷰 캠퍼스 인근에 시위대를 추가한 이미지를 만들어 같은 문제를 지적했다. 테크크런치(TechCrunch)에 따르면 한 BBC 소속 언론인은 “언론인과 연구자들이 가장 신뢰하는 시각적 근거 중 하나인 구글어스의 이 새 AI 이미지 생성 기능이 온라인 허위정보 확산에 악용될 리가 없다”고 반어적으로 비판하기도 했다.

워터마크만으론 부족했다…구글의 방어 논리와 철회

논란이 커지기 전 구글은 반 에스에게 “나노바나나로 구글어스에서 만든 모든 이미지에는 신스ID(SynthID) 디지털 워터마크가 포함돼 있어, 이미지가 의심스러우면 제미나이(Gemini) 앱이나 렌즈(Lens)로 AI 생성 여부를 확인할 수 있다”고 답했다. 아울러 “유해한 주제에 대한 이미지 생성을 막고 있으며 보호 장치를 계속 업데이트하고 있다”고 설명했다.

그러나 콕스는 블루스카이에서 “AI 생성 이미지임을 식별할 수 있는 워터마크가 있다는 구글의 설명은 허위정보가 실제로 어떻게 퍼지는지 전혀 이해하지 못한 발상”이라고 반박했다. 엔가젯(Engadget)도 몇 년 전 전 인터넷이 AI가 만든 새끼 공작새 이미지를 실제로 착각해 공유했던 사례를 들며, 사람들이 온라인에서 본 이미지를 일일이 검증하는 경우는 드물다고 짚었다.

결국 구글은 7월 31일(현지시각) X(옛 트위터) 공식 계정을 통해 “사람들은 세계를 있는 그대로 보여주는 신뢰할 수 있는 도구로 구글어스를 특별히 신뢰한다”며 “지리공간 전문가들이 이 기능을 다양한 유용한 목적으로 활용하는 모습도 봤지만, 정책을 위반하는 것으로 보이는 생성 이미지 스크린샷을 공유하는 사람들도 목격했다”고 밝혔다. 구글은 “더 강력한 안전장치를 마련하는 동안 구글어스에서 이 기능을 롤백한다”며 “생성된 이미지는 다른 사람이 볼 수 있는 구글어스 메인 화면에는 나타나지 않았고 AI 생성물임을 나타내는 워터마크가 적용돼 있었다는 점을 밝혀둔다”고 덧붙였다. 아르스 테크니카(Ars Technica)가 직접 확인한 결과 해당 기능은 실제로 구글어스 이용자들이 접근할 수 없는 상태로 바뀌어 있었다.

검증 방법과 남은 과제

반 에스는 의심스러운 위성사진을 검증하는 방법으로 젠티널-2(Sentinel-2)나 랜드샛(Landsat) 같은 다른 위성 플랫폼과 대조하거나, 촬영 시점과 촬영 위성 같은 궤도 데이터를 확인하는 방법을 제안했다. 구글 역시 제미나이 앱의 “@verifyai” 태그나 검색의 렌즈 기능으로 AI 생성 여부를 확인할 수 있다고 안내해왔다.

테크크런치는 “프롬프트 기반으로 실제 지도 위에 거의 모든 이미지를 합성할 수 있게 한 이 도구는 지리공간 쓰레기(geospatial slop)가 쏟아지는 결과로 이어질 수밖에 없었다”고 평가하면서도, AI 시대에는 굳이 포토샵 전문 기술 없이도 AI 이미지 생성기만 있으면 신빙성 있는 허위정보를 만들 수 있다는 점도 함께 지적했다. 구글은 이번 롤백이 기능 폐기가 아니라 더 강력한 가드레일을 갖추는 동안의 임시 조치라고 밝힌 만큼, 향후 재도입 여부와 그 시점에 어떤 안전장치가 더해질지가 관심사로 남아 있다.