구글은 현지 시각 7월 30일 구글 어스 웹에 이미지 생성 기능을 도입했다고 발표했다. 이용자가 특정 장소를 확대한 뒤 ‘이미지 만들기’를 누르고 문장으로 지시하면, 나노 바나나 2 모델이 그 장소를 바탕으로 변형된 이미지를 만들어 주는 방식이다. 구글 어스 제품 관리자 브라이언 호로위츠가 발표를 맡았고, 기능은 전 세계에 동시 적용됐다.

기능은 하루 만에 철회됐다. 구글은 7월 31일 블로그 상단에 갱신 사항을 추가해, 정책을 위반한 것으로 보이는 생성 이미지 화면 갈무리가 공유되는 상황을 확인했으며 더 강한 안전장치를 마련하는 동안 이 기능을 철회한다고 밝혔다. 재개 일정은 제시되지 않았다.

오픈소스 정보분석 연구자 헨크 판 에스는 공개 당일 멕시코 국경의 난민, 이란 원자력발전소, 암스테르담의 사망 사고, 폭탄 분화구가 생긴 가자 병원을 차례로 생성했다며 “어떤 것도 거부되지 않았다”고 밝혔다. 그는 “위조물이 그 자체로 그럴듯해 보일 필요가 없다. 자신이 태어난 지도의 신뢰도를 물려받기 때문”이라고 지적했다. BBC 검증팀은 무너진 에펠탑과 기자 피라미드를 삼킨 싱크홀, 우크라이나 수도의 러시아 전차를 만들어 보였고, NPR은 불타는 이란 카르그섬 석유 터미널과 침수된 미 의회 의사당 이미지를 생성했다.

구글은 생성 이미지에 신스ID 워터마크가 들어가고 제미나이 앱이나 구글 렌즈로 AI 생성 여부를 확인할 수 있다고 설명했다. 다만 신스ID는 눈에 보이지 않는 방식이고, BBC 검증팀은 이 확인 절차를 우회해 제미나이가 가짜 구글 어스 이미지를 진짜라고 답하도록 유도할 수 있었다고 전했다.

벨링캣 선임 연구원 제이크 고딘은 위성 이미지가 위조하기 어렵다는 이유로 사건 검증에서 비교적 안전한 수단으로 쓰여 왔다고 말했다. 지리공간 분석가이자 커먼 스페이스 공동창업자인 빌 그리어는 위성 이미지가 역사적으로 특별히 신뢰할 만한 자료로 여겨져 온 만큼 공적 신뢰에 미치는 타격이 클 수 있다고 언급했다.

자세한 내용은 구글에서 확인할 수 있다.

이미지 출처: 구글