구글(Google)이 7일(현지 시간) 자사 블로그를 통해 AI 기술을 활용해 구글 맵스(Google Maps)의 사업자 정보 신뢰성을 높이는 새로운 방법을 발표했다. 제미나이(Gemini)의 도움으로 사기꾼을 잡고 가짜 별점 리뷰를 걸러내는 기술을 확대 적용하고 있다.

구글 블로그에 따르면, AI는 사기꾼을 막는 중요한 도구로 활용되어 왔으며, 구글은 이제 이를 통한 보호 기능을 더욱 확대하고 있다. 지난해 구글은 실제 자물쇠 수리업체를 사칭하여 미등록 비즈니스 프로필을 탈취하고 고객에게 과도한 요금을 청구한 악성 사용자 그룹이 관리하는 1만 개 이상의 목록을 삭제했다.

구글은 단순히 사기성 콘텐츠를 제거하는 것에 그치지 않고 해당 악성 행위자들을 상대로 소송을 제기했으며, 이 과정에서 얻은 정보를 탐지 시스템 강화에 적극 활용하고 있다. “제미나이(Gemini)의 도움으로 의심스러운 프로필 편집을 식별하는 새로운 모델을 훈련시켰습니다. '조이의 커피하우스'에서 '조이의 카페'로 이름을 바꾸는 것은 의심스럽지 않지만, 갑자기 카테고리를 '카페'에서 '배관공'으로 변경하는 것은 의심스럽습니다."라고 구글은 설명했다.

제미나이는 몇 가지 예시만으로도 의심스러운 행동을 학습하고 이 지식을 여러 비즈니스 카테고리와 언어에 적용할 수 있다. 이 새로운 모델은 이미 올해 수천 건의 의심스러운 비즈니스 프로필 편집을 차단하는 데 도움을 주었다.정직한 5점 리뷰는 고객이 감사를 표현하는 좋은 방법이지만, 일부 사업체는 실제로 방문한 적이 없는 사람들로부터 가짜 5점 리뷰를 구매하는 방식으로 시스템을 속이려 시도한다. 이는 구글 정책에 의해 엄격히 금지되어 있다.

AI는 이러한 부정직한 행동을 더 잘 감지하는 데 도움을 준다. 예를 들어, 구글은 이제 최초 게시된 지 몇 달이 지난 후에도 새로운 남용 패턴을 식별하기 위해 리뷰를 더 자주 재검토할 수 있다. 또한 미국, 영국, 인도에서는 특정 상황에서 의심스러운 5점 리뷰가 제거되었을 때 이를 알려주는 경고 기능도 출시했다. 다음 달부터 전 세계적으로 확대될 이 경고 기능은 어떤 사업장이 불공정한 리뷰 관행에 관여하고 있는지 빠르게 이해하는 데 도움을 준다.

구글은 악의적 행위자들의 기만적인 콘텐츠를 방지하고 제거하는 능력을 지속적으로 개선하고 있다. 2024년에는 고급 머신러닝 알고리즘을 통해 2억 4천만 건 이상의 정책 위반 리뷰를 차단하거나 제거했으며, 이 중 대부분은 사용자에게 노출되기 전에 처리되었다. 또한 개선된 탐지 시스템을 활용해 맵에서 7천만 건 이상의 정책 위반 편집을 차단하거나 제거했고, 1천2백만 개 이상의 가짜 비즈니스 프로필도 차단 및 제거 조치했다. 이뿐만 아니라 구글은 정책을 반복적으로 위반한 90만 개 이상의 계정에 게시 제한을 적용하는 등 적극적인 제재 조치를 취했다.

해당 발표에 대한 자세한 사항은 링크에서 확인할 수 있다.

이미지 출처: 구글 블로그

기사는 클로드와 챗gpt를 활용해 작성되었습니다.