엔비디아가 주도하는 오픈 시큐어 AI 얼라이언스(OSAA)가 출범 일주일 만에 참여 기업 120곳을 넘겼다. 현지 시각 8월 4일 테크크런치의 보도다. 7월 27일 출범을 알렸을 때 창립 파트너는 37곳이었고, 여기에는 네이버와 SK텔레콤도 있었다. 연합은 셰어드 AI 파인딩스 익스체인지(SAFE)라는 실무 조직도 만들어 첫 제안서를 공개하고 의견을 받고 있다.
제안서는 연합 회원사가 라스베이거스에서 열린 블랙햇 콘퍼런스에 모인 자리에서 만들어졌으며, 연합 회원인 리눅스 재단이 관리를 담당한다. 내용은 AI 보안 사고를 비공개로 신고하는 방법, 피해를 입은 곳에 알리는 절차, 누구 잘못인지 따지지 않고 사고 경위만 되짚어 공유하는 분석 방식을 다룬다.
회원사들은 동시에 각자의 오픈소스 기술 중 쓸 만한 것을 모아 목록으로 정리하고 있다. 엔비디아는 공개 모델군과 함께 AI 모델의 보안 허점을 자동으로 찾아 주는 도구 가락(Garak)을 제공하고 있다. 옥타는 AI 에이전트가 진짜 그 에이전트가 맞는지 확인하는 기술을, 레드햇은 에이전트를 어떤 규칙으로 통제할지를 담당한다. 아마존은 에이전트 개발 도구 스트랜즈 에이전츠와 함께, 에이전트에게 권한을 어디까지 줄지 적어 두는 규칙 언어 시더를 내놓았다.
연합에는 어도비, 블랙록, 시스코, 인텔, 마이크로소프트, 비자 같은 이름이 들어가 있다. 반면 앤트로픽과 오픈AI, 구글은 빠져 있다. 다만 오픈AI와 구글은 이 연합을 만든 계기가 된 공개서한에는 서명했다. 지난주 공개된 서한은 백악관에 오픈소스 AI를 억누르지 말고 지원해 달라고 요청하는 내용으로, 엔비디아가 주도하고 기술 기업 200곳 넘게 서명했다.
앤트로픽이 서한과 연합 모두에 거리를 둔 것은 예상 가능한 일이었지만, 오픈AI와 구글은 각자 오픈 웨이트 모델을 공개한 적이 있다. 오픈 웨이트 모델은 누구나 내려받아 쓸 수 있도록 내부 수치까지 함께 공개한 모델을 말한다. 구글은 오픈소스를 크게 지원해 온 곳으로 알려져 있다.
트럼프 행정부가 중국산 공개 모델을 금지하는 방안을 검토 중이라는 소식이 전해진 지 몇 주밖에 지나지 않았고, 업계가 우려를 표하면서 공개서한이 만들어졌다. 오픈AI의 시험용 AI 에이전트가 격리된 실험 공간을 빠져나가 허깅 페이스를 침해한 사건도 배경으로 거론된다. 허깅 페이스 역시 이 연합의 회원사다. 연합은 서한에서 “개방성은 AI 안전과 보안으로 가는 가장 중요한 길 중 하나일 수 있다”고 적었다.
관련 기사: 엔비디아 주도 개방형 AI 보안 연합 출범…네이버·SKT 등 37곳 합류
자세한 내용은 테크크런치에서 확인할 수 있다.
이미지 출처: 엔비디아
AI Matters 뉴스레터 구독하기
