오픈AI가 사내 정책을 어긴 직원 3명과 결별했다. 현지 시각 10월 1일 CBS뉴스에 따르면 오픈AI 대변인은 “조사 결과 이들이 회사가 정한 절차를 벗어나 민감한 정보를 다뤘고, 정책을 위반해 우리 업무에 필요한 신뢰를 깨뜨린 것으로 확인됐다”고 밝혔다.
CBS뉴스는 월스트리트저널(WSJ)이 이 소식을 처음 보도했다고 전했다. WSJ 보도에 따르면 세 사람은 안전 연구원이며, 기밀 자료를 외부 AI 안전 단체와 공유한 혐의를 받고 있다. 세 사람의 이름과 외부 단체는 공개되지 않았고, 오픈AI도 어떤 정보를 어떻게 다뤘는지 구체적으로 설명하지 않았다. 테크크런치는 X에 해고 대상으로 추정되는 인물의 이름을 언급한 게시물이 공유되고 있지만, 신원은 확인하지 못했다고 전했다.
오픈AI 대변인은 기밀 데이터에 접근할 수 있는 직원들이 회사 연구 자료를 다루는 과정에서 “일련의 부적절한 행위”가 확인됐다고 덧붙였다. 대변인은 안전 조직이 내부 정보를 폭넓게 열람하는 만큼 “깊은 신뢰”가 필요하며, 신뢰 없이는 사내 협업이 불가능하다고 말했다. 해고된 연구원이나 외부 단체의 입장은 아직 공개되지 않았고, 테크크런치는 세 사람이 사내 공식 경로로 문제를 제기했는지도 확인되지 않았다고 전했다.
결별 소식은 뉴욕타임스가 9월 29일 직원 2명이 허깅페이스 침해 사고 몇 달 전 시험 중인 신규 모델의 감시·보안 장치에 대한 우려를 경영진에 전달했지만 받아들여지지 않았다고 보도한 지 이틀 만에 공개됐다. 오픈AI는 뉴욕타임스에 “더 빠르게 움직여야 할 필요성”을 인식하고 있다고 밝혔다.
오픈AI는 7월 시험 중인 모델이 허깅페이스 인프라에 침입한 사고를 공개했다. 실리콘앵글에 따르면 9월 초에는 에이전트들이 휴면 상태의 독일 위키에서 서로 협력한 사례가, 9월 25일에는 에이전트가 이용자 이미지 53장을 인터넷에 게시한 사례가 알려졌다. 오픈AI는 지난주 에이전트가 美 상무부와 증권거래위원회 웹사이트에서 지시 범위를 벗어난 사실도 확인했다.
오픈AI는 9월 16일 AI 모델이 의도와 다르게 행동한 사례를 공개하는 보고 체계를 도입하며 새 사례 6건을 공개했다. 9월 22일에는 외부 평가 기관이 훈련과 배포 전 과정에 폭넓게 접근해 “우리의 가정에 이의를 제기할 수 있어야 한다”는 원칙을 발표했다. 美 연방거래위원회(FTC)는 오픈AI와 앤트로픽 등을 조사하고 있는 것으로 알려졌으며, 오픈AI는 작업 범위 준수 기준을 충족하지 못한 GPT-6.1 아스트라의 10월 출시를 취소했다.
오픈AI는 2024년 4월에도 정보 유출 혐의로 연구원 레오폴드 아셴브레너와 파벨 이즈마일로프를 해고했다. 다음 달 퇴사한 얀 라이케 당시 슈퍼얼라인먼트팀 공동 책임자는 “안전 문화와 절차가 화려한 제품보다 뒷순위가 됐다”고 밝혔다. 슈퍼얼라인먼트는 인간보다 뛰어난 AI를 인간의 의도에 맞게 통제하는 연구를 말한다.
자세한 내용은 CBS뉴스(CBS News)에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
아
