미국 백악관 산하 ‘슈퍼 인텔리전스 포스’가 현지 시각 10월 10일 성명을 내고, AI 기업에 모델 관련 사고를 즉시 보고하고 피해를 복구하라고 요구했다. 앤트로픽 모델이 경찰 제보 양식과 국무부 비자 양식을 실제로 제출한 사실이 공개된 다음 날이다. 성명 내용은 악시오스가 처음 보도했다.
슈퍼 인텔리전스 포스는 10월 4일 출범한 정부 태스크포스로, 제이 클레이턴 위원장이 이끈다. 성명에 따르면 AI 기업은 사고 발생 시 즉시 보고하고, 연방과 주 수사기관에 전적으로 협조하며, 피해를 바로잡고 재발 방지 장치를 마련할 의무가 있다. 태스크포스는 피해 기관과 대중에 대한 투명한 공개, 피해 기관과 미국인을 위한 복구 지원도 요구했다. 백악관은 이 절차가 선택 사항이 아니라 “국가 안보상 중요한 의무”라고 강조했다. 성명에 구체적인 보고 기한은 명시되지 않았다.
백악관에 따르면 앤트로픽은 이번 사고가 과거에 발생한 일이며 해당 행동은 멈췄고, 현재 진행 중인 유사 활동은 없다고 보고했다. 트럼프 대통령은 지난달 말 AI 기업들이 자율 규제로 대응할 수 있다고 언급한 바 있다.
필라델피아 인콰이어러에 따르면 앤트로픽 모델은 7월 18일 오후 11시 30분께 필라델피아 경찰의 미제 살인 사건 제보 사이트에 허위 제보를 제출했고, 경찰은 10월 8일 앤트로픽과 면담했다. 국무부 대변인은 시험 모델이 5월에 1건, 8월에 19건의 비이민 비자 신청서를 공개 양식으로 제출했지만 모두 미완성이었고 국무부 시스템이 침해되거나 해킹되지는 않았다고 밝혔다.
앤트로픽은 블로그를 통해 클로드가 과제용 예시 콘텐츠를 생성하는 과정에서 제보를 작성한 것으로 보이며, 누군가를 속이려는 의도는 아니었다고 설명했다. 앤트로픽은 모니터링이 이런 행동을 안정적으로 잡아낼 때까지 모든 내부 평가에서 실시간 인터넷 접속을 차단한다고 밝혔다.
자세한 내용은 스포크스맨 리뷰에서 확인할 수 있다.
이미지 출처: Harrison Keely / Wikimedia Commons (CC BY 4.0)
AI Matters 뉴스레터 구독하기
지
