벤처캐피털리스트(VC)인 Deedy Das는 지난 3월 29일(현지 시간) X(구 트위터)에 자신이 4o로 생성했다고 주장하는 샌프란시스코의 실제 스테이크하우스 영수증 가짜 사진을 게시했다.

[출처 : X, @deedydas]

이후 다른 사람들의 생성 이미지도 속속 등장했으며 일부는 음식이나 와인 얼룩까지 추가해 더욱 그럴듯하게 보이도록 만들었다.

[출처 : X, @michaelgofman, john_beans]

테크크런치가 발견한 가장 사실적인 사례는 프랑스에서 나왔으며, 한 링크드인 사용자가 지역 레스토랑 체인의 구겨진 AI 생성 영수증을 게시한 것이었다.

[출처 : techcrunch]

또한 테크크런치가 직접 4o로 테스트한 결과, 샌프란시스코에 위치한 레스토랑인 애플비(Applebee’s)의 가짜 영수증을 생성하는데 성공했다. 하지만 해당 영수증에는 총액에서 쉼표(,)가 사용되어야 할 자리에 마침표(.)가 사용되거나 총액이 틀리는 등 가짜임을 알 수 있는 몇 가지 단서가 있었다.

LLM(대형 언어 모델)은 여전히 기본적인 수학을 수행하는 데 어려움을 겪고 있기 때문에 이는 놀라운 일이 아니지만 진정한 사기꾼이라면 몇 가지 숫자를 사진 편집 소프트웨어로 수정하거나, 혹은 더 정밀한 프롬프트를 사용해 쉽게 조정할 수 있을 것이라고 테크크런치는 우려를 표했다.

이에 대해 OpenAI 대변인 타야 크리스티안슨(Taya Christianson)은 모든 AI 생성 이미지에는 ChatGPT가 만든 것임을 나타내는 메타데이터가 포함되며 또한 OpenAI가 사용자가 이용 정책을 위반할 경우 "조치를 취한다"고 말하며, 실제 사용 사례와 피드백을 통해 지속적으로 학습하고 있다고 덧붙였다.

글 / 홍정민 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com