메타(Meta)가 3일(현지시간) 자사 뉴스룸을 통해 차세대 AI 개발 방향성을 제시하는 '프론티어 AI 프레임워크(Frontier AI Framework)'를 공개했다. 이는 지난해 서울에서 열린 글로벌 AI 서밋에서 약속한 모델 출시 결정에 대한 위험성 평가 방안의 일환이다.
메타는 오픈소스 AI가 전례 없는 기술 발전을 이끌 수 있다고 강조했다. 고가의 기술을 무료로 제공함으로써 경쟁과 혁신을 촉진하고, 이를 통해 개인과 사회, 경제에 이익이 되는 도구를 만들어낼 수 있다는 설명이다. 메타에 따르면, 오픈소스 AI는 선택이 아닌 필수 요소로, 미국의 기술 혁신, 경제 성장, 국가 안보 분야에서 리더십을 강화하는 데 핵심적인 역할을 한다고 밝혔다.
프론티어 AI 프레임워크는 사이버보안 위협과 화학·생물학 무기 관련 위험을 중점적으로 다룬다. 메타는 이를 위해 주요 프로세스를 마련했다. 먼저 사이버, 화학, 생물학적 위험과 관련된 치명적 결과를 예방하기 위한 평가를 실시한다. 이어 외부 전문가와 협력하여 프론티어 AI의 잠재적 오용 가능성을 분석하는 위협 모델링을 수행한다. 마지막으로 모델이 위협 시나리오에 미치는 영향을 기반으로 위험 임계값을 정의하고 관리하는 체계를 구축했다.
메타는 이번 프레임워크가 심각한 위험을 완화하는 데 초점을 맞추고 있지만, 궁극적으로는 사회에 큰 혜택을 주는 것이 기술 개발의 주된 목적이라고 강조했다. 회사는 AI 기술이 발전함에 따라 이러한 접근 방식을 지속적으로 발전시키고 개선할 계획이다. 한편, 메타는 휴깅페이스(Hugging Face)와 스케일웨이(Scaleway)와 협력하여 프랑스의 AI 스타트업 생태계를 지원하는 'AI 스타트업 프로그램'도 진행하고 있다.
해당 기사의 원문은 링크에서 확인할 수 있다.
이미지출처: 메타
기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.
AI Matters 뉴스레터 구독하기
