메타(Meta)가 자사 AI 콘텐츠 검열 시스템이 사람 검수자보다 오류가 13% 적고 정책 위반은 10% 더 찾아낸다고 밝혔다. 뉴욕타임스(The New York Times)에 따르면 메타는 이 같은 수치를 공개했으나, 동시에 일부 인스타그램과 페이스북 이용자는 시스템이 자신의 계정을 잘못 삭제했다고 주장하고 있다. 자동 집행이 메타 플랫폼 전반으로 확대되면서 쌓여 온 불만이다.

평균적으로 더 정확한 AI 시스템이라도 수십억 명의 이용자와 게시물이라는 메타의 규모에서 작동하면 절대적으로 많은 수의 잘못된 판정을 낼 수 있다. 그리고 그 잘못된 판정 하나하나는 사업용 계정이나 수년간의 사진을 잃을 수 있는 개인의 피해가 된다. 메타가 최적화하는 지표는 평균 정확도이지만, 이용자는 개별적인 오류를 겪는다. 정확도 향상과 이용자 반발이 동시에 나오는 배경이다.

여러 플랫폼에서 이용자들이 꾸준히 제기하는 불만은 AI가 실수를 한다는 것이 아니라, 그 실수를 바로잡아 줄 사람에게 닿을 방법이 없다는 것이다. 대규모 자동 집행은 오류를 바로잡는 장치가 같은 규모로 갖춰질 때에만 제대로 작동하는데, 이의 제기 절차가 빠져 있다는 지적이다.

13%의 오류 감소는 그 자체로 의미 있는 개선이지만, 자신이 저지르지 않은 위반으로 계정을 잃은 사람에게는 도움이 되지 않는다. 자동 집행이 대규모로 작동할수록 이를 바로잡는 장치도 같은 규모로 자동화되어야 한다는 점이 다시 확인된다.

메타가 정확도 수치를 공개한 것 자체는 긍정적이며 더 많은 기업이 따라야 한다고 볼 수 있다. 다만 신뢰를 실제로 쌓을 수 있는 숫자는 잘못된 삭제가 얼마나 빨리 되돌려지는가라는 지적이 뒤따른다. 그 수치가 공개되기 전까지는 사람보다 낫다는 주장이 이용자 경험과 계속 어긋날 것으로 보인다.

자세한 내용은 빌드패스트위드AI에서 확인할 수 있다.

이미지 출처: AI 생성