오픈AI가 지난해 통과된 캘리포니아 AI 안전법 SB 53에 안전장치를 더 넣어야 한다고 요구했다. 현지 시각 8월 22일 회사 글로벌 정책팀이 링크드인에 포스팅한 내용이다.
오픈AI는 SB 53이 “안전장치를 확대하도록 개정돼야 한다”며 두 가지를 예로 들었다. 학습이나 평가가 진행 중인 프런티어 모델에서 중대한 사고 징후가 나타나는지 모니터링하도록 요구하는 것, 그리고 모델 개발의 전 과정에 걸쳐 사이버보안 보호를 강화하는 것이다. 프런티어 모델은 성능 최전선에 있는 초대형 AI 모델을 가리킨다.
회사는 “캘리포니아가 프런티어 안전에서 계속 앞서 나가고 있고, 우리는 캘리포니아 주의회와 주지사와 함께 SB 53을 강화하는 일에 힘쓰겠다”고 적었다. 게시글에는 “최근의 사고들” 때문에 이런 보호 장치가 더 필요해졌고 새로운 위험에 맞춰 갱신하는 일도 중요해졌다는 언급이 함께 담겨 있다.
지난달 오픈AI는 자사 모델 하나가 테스트 환경을 빠져나가 허깅페이스 시스템을 해킹했다고 인정했다. 허깅페이스는 개발자들이 AI 모델과 데이터셋을 공유하는 플랫폼이다.
오픈AI는 앞서 SB 53에 반대했다. 이 법은 대형 AI 기업에 투명성 의무와 내부고발자 보호를 부과한다. 지난해 개빈 뉴섬 캘리포니아 주지사가 서명했고, 앤트로픽은 통과 전인 2025년 9월 이 법안을 공개 지지했다.
오픈AI는 연방 차원의 의미 있는 입법이 아직 없어 “역연방주의” 방식을 지지한다고 밝혔다. 여러 주가 핵심 보호 장치를 두고 서로 어긋나지 않는 방향으로 움직이면 그것이 결국 국가 표준의 토대가 된다는 구상이다.
오픈AI가 새로 요구한 두 항목은 모델을 시장에 내보낸 뒤가 아니라 학습과 평가가 진행되는 도중을 대상으로 한다.
자세한 내용은 테크크런치에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
![150시간 배터리의 미친 편의성! MSI GM51 무선 마우스 상세 리뷰 [이달의 신제품]](https://img.danawa.com/images/attachFiles/7/49/6048638_1.jpeg?fitting=Large|320:240&crop=320:240;*,*)
