현지 시각 9월 13일 사티아 나델라 마이크로소프트 최고경영자가 소셜미디어 엑스에 포스팅한 글이다. 나델라는 자사 1차 모델인 MAI의 행동강령을 다음 날 공개해 의견을 수렴하겠다고 예고했다. MAI는 마이크로소프트가 오픈AI 모델 의존도를 낮추려고 직접 개발해 온 자체 모델군이다.
나델라는 “초지능을 추구하는 모든 시도는 우리가 개발하는 AI가 인류를 돕지 않고 인간의 통제 아래 있지도 않다면 추구할 가치가 없다는 핵심 원칙에 근거해야 한다”고 적었다. 이어 “정렬을 제대로 해내기 위해 필요한 연구와 집중, 의도적인 속도 조절을 환영한다”며 “상주 평가자 같은 구상과, 이를 말에 그치지 않게 만들 장치를 개발하려는 폭넓은 노력도 환영한다”고 밝혔다.
거버넌스 주체에 대해서도 조건을 달았다. 나델라는 “핵심은 이것이 소수 주체에 의해 통제될 수 없고, 학계를 포함해 생태계와 국가, 분야 전반의 폭넓은 대표성을 갖춰야 한다는 점”이라고 적었다. 그는 폐쇄형 모델과 오픈소스 모델이 함께 성장할 수 있는 프런티어 생태계가 필요하다고도 했다.
기업 고객에 관해서는 모델 제공사 종속 문제를 언급했다. 나델라는 기업이 고유하고 암묵적인 지식에 대한 통제권을 온전히 유지하는 것이 중요하다며, 모든 조직이 특정 모델 제공사에 의존하지 않고 자체 학습 순환 구조를 구축할 수 있어야 하고 자사가 통제하는 모델과 가중치에 자체 지식을 심을 수 있어야 한다고 밝혔다.
무스타파 술레이만 마이크로소프트 AI 최고경영자는 이 글에 “기술의 목적은 인류에 봉사하고 인간의 번영을 앞당기는 것”이라며 “그것을 이루지 못하는 기술은 실패이며 거부돼야 한다”고 답했다. AI 정책 연구자 피터 와일드퍼드는 “마이크로소프트 최고경영자가 속도 조절 진영에 합류했다”고 평가했고, 개발자 벤저민 데 크레이커는 행동강령 공개 예고가 긴 글의 맨 끝에 배치됐다고 지적했다.
마이크로소프트는 오픈AI의 최대 주주이자 최대 컴퓨팅 공급사이면서 동시에 자체 모델을 개발하고 있다. 나델라가 이번에 언급한 행동강령은 그 자체 모델군에 적용되는 규범이며, 공개 의견 수렴을 거치겠다고 밝힌 만큼 외부 지적을 반영할 여지를 남겼다. 앞서 9월 12일에는 다리오 아모데이 앤트로픽 최고경영자가 상주 평가자 도입을 제안했고, 샘 알트만 오픈AI 최고경영자와 일론 머스크가 여기에 동의한다고 밝혔다.
자세한 내용은 테크밈에서 확인할 수 있다.
이미지 출처: 브라이언 스메일 / Wikimedia Commons (CC BY-SA 4.0)
AI Matters 뉴스레터 구독하기
