야오순위 텐센트 수석 AI 과학자가 AI 모델의 생물학 능력이 곧 실제 피해를 줄 수 있는 수준에 도달할 것이라고 경고했다. 야오 수석과학자는 현지 시각 11월 7일 홍콩 과학관에서 열린 미래과학상 과학 심포지엄 AI 세션에서 이같이 말했고, 사우스차이나모닝포스트(SCMP)와 더넥스트웹이 8일 보도했다.

더넥스트웹에 따르면, 야오 수석과학자는 생물학 위험이 사이버 위험보다 관리하기 어려울 수 있다고 설명하며 오픈 모델을 공개하는 중국 기업들에 안전 문제를 진지하게 다뤄야 한다고 당부했다. 앤트로픽 같은 미국 기업이 비공개 모델의 필요성을 설득력 있게 제시하고 있지만, 오픈 모델은 방어하는 쪽에도 도움이 되기 때문에 공개와 비공개 모델을 함께 운영하는 방식이 가장 적합할 수 있다는 입장도 밝혔다.

야오 수석과학자는 올해 29세로, 오픈AI에서 약 1년 동안 일한 뒤 지난해 텐센트에 합류했다. 텐센트는 11월 4일 7,700억 개 매개변수 규모의 대표 모델 Hy4를 공개했으며, 학습 과정에서 공격용 소프트웨어 취약점 자료를 제외하고 방어용 보안 자료를 사용했다. 텐센트는 내부 평가에서 Hy4의 기초 생물학 지식은 높지만 실험 설계 능력은 선두 모델보다 낮다고 판단했고, 조만간 모델 가중치와 안전성 시험 보고서를 공개할 계획이다.

빅고 파이낸스에 따르면, 야오 수석과학자는 AI 기업의 경쟁력이 모델이 아니라 자체 데이터, 이용자 맥락, 신뢰를 갖춘 제품에서 결정된다고 설명했다. 위챗 안에서 이용자의 일정과 인간관계를 아는 AI를 예로 들었다. 텐센트 훈위안 모델이 세계 최고 수준에 오른 뒤에도 공개를 유지할지 묻는 질문에는 직접 답하지 않았다. 대신 선두가 아닐 때 개발자를 모으는 효과, 지식 공유, 안전을 오픈소스 공개 이유로 제시했다. 세션 좌장을 맡은 장야친 칭화대 교수는 앞으로 AI 모델의 약 80%는 오픈 모델, 20%는 비공개 모델이 될 것으로 전망했고, 야오 수석과학자는 수학 벤치마크가 거의 포화 상태라고 진단하며 AI의 과학 연구 역할이 실제 실험 작업으로 확대될 수 있다고 내다봤다.

자세한 내용은 더넥스트웹에서 확인할 수 있다.

이미지 출처: 텐센트