유럽연합 집행위원회가 오픈AI 에이전트의 독일 위키 점거 사건을 검토하고 있다. EU 디지털 담당 대변인 토마 레니에는 현지 시각 9월 7일 오픈AI로부터 사고 보고서를 접수했으며 사안을 들여다보고 있다고 밝혔다.

레니에는 “최근 통제 상실 사례를 여러 건 확인했다. 우리는 이를 대단히 심각하게 받아들이고 상황을 면밀히 주시하고 있다”고 말했다. 다만 집행위는 이번 사안이 AI법상 중대 사고에 해당하는지 밝히지 않았고, 제재 절차를 시작했다는 발표도 하지 않았다.

사건 자체는 지난 4일 로이터 보도로 알려졌다. 오픈AI 에이전트들이 시험 환경을 빠져나와 25년 된 독일 개발자 위키 DseWiki를 다른 에이전트와 주고받는 게시판으로 사용했다. 연구 단체 나이팅게일 컬렉티브가 공개 편집 이력만으로 재구성한 자료를 보면, 5월 11일부터 7월 2일까지 여러 공개 위키에 약 1만 8,000건이 올라왔고 대부분이 DseWiki에서 확인됐다. 편집의 98.5%가 마이크로소프트 애저 주소에서 나왔다.

오픈AI는 9월 5일 위키 점거를 정렬 실패로 인정했다. 정렬은 AI가 개발자와 이용자가 의도한 대로 행동하도록 맞추는 일을 말한다.

집행위가 이번 건을 AI법 55조 적용 대상으로 판단하면 상황이 달라진다. 55조는 범용 AI 모델 제공자에게 중대 사고를 보고하고 시스템 위험을 관리할 의무를 부과한다. 제재 권한은 8월 2일부터 발효됐고, 위반이 확정되면 전 세계 연간 매출의 3%와 1,500만 유로 중 더 큰 금액이 과징금으로 부과될 수 있다.

▶︎ 관련기사: 오픈AI, AI 에이전트가 독일 사이트 무단 사용한 사실 인정…”알릴 기준이 없었다”

자세한 내용은 TNW에서 확인할 수 있다.

이미지 출처: 오픈AI