구글 딥마인드, 멀티 에이전트 AI ‘악당 집단’ 방지한다…안전 연구에 155억 원 공모

2026.06.12. 12:47:55

152

구글 딥마인드가 여러 인공지능(AI) 에이전트가 동시에 상호작용하는 환경의 안전성을 연구하기 위해 전 세계 연구자를 대상으로 최대 1,000만 달러(약 155억 원) 규모의 기술 연구 공모를 시작한다. 구글 딥마인드 공식 블로그에 따르면 이번 공모는 슈미트 사이언스(Schmidt Sciences), 협력적 AI 재단(Cooperative AI Foundation), 영국 첨단연구발명청(ARIA)과 함께 진행되며 구글닷오알지(Google.org)가 지원한다.

이번 공모는 AI 에이전트가 위협이 될 수 있다는 생각에서 출발했다. 서로 다른 조직이 만든 수백만 개의 AI 에이전트가 디지털 환경에서 서로 소통하고 협상하며 거래하는 시대가 다가오고 있는데, 이런 시스템이 상호작용할 때 안전하고 예측 가능하게 작동하도록 보장해야 한다는 것이다. 단일 모델의 안전성을 넘어, 에이전트 간 관계에서 발생하는 위험을 다루겠다는 취지다.

연구 지원 분야는 다중 에이전트(multi-agent) 환경, 메커니즘 설계(mechanism design), 협력적 AI, 그리고 조율(coordination) 문제 등으로 구성된다. 에이전트들이 의도치 않게 충돌하거나 담합하는 상황, 혹은 연쇄적으로 오류를 증폭시키는 시나리오 등을 사전에 연구해 생태계 전반의 안정성을 끌어올리겠다는 구상이다. 여러 에이전트가 협력하면 한 개의 에이전트보다 복잡한 일을 해낼 수 있지만, 동시에 예측하기 어려운 집단 행동이 나타날 수 있다는 것을 고려한 것이다.

신청은 8월 8일까지 받으며, 지원 대상 선정 결과는 올가을에 발표될 예정이다. 학계와 산업계 연구자 모두에게 문을 열어, AI 안전 연구의 저변을 넓히려는 의도로 풀이된다. 구글 딥마인드는 자체 연구 역량만으로는 빠르게 커지는 멀티 에이전트 생태계의 위험을 모두 따라잡기 어렵다고 보고, 외부 연구진과의 협력을 택했다.

이번 발표는 AI 업계가 단일 챗봇에서 자율적으로 행동하는 에이전트로, 다시 여러 에이전트가 동시에 작동하는 환경으로 빠르게 이동하는 흐름을 반영한다. 세일즈포스와 마이크로소프트, 구글 등 주요 기업이 에이전트 상용화 경쟁에 속도를 내는 가운데, 이를 안전하게 운영할 연구 기반은 아직 충분치 않다는 문제의식이 이번 공모의 배경에 깔려 있다. 모델 성능 경쟁만큼이나 안전·신뢰 연구가 함께 따라가야 한다는 점을 환기시키는 행보로 볼 수 있다.

구글 딥마인드는 이전에도 협력적 AI 분야의 연구 도구와 환경을 공개해왔으며, 이번 공모를 통해 관련 연구 커뮤니티를 한층 키우려 한다. 여러 기관과 기업이 만든 에이전트가 공통의 규칙 없이 뒤섞일 경우 발생할 수 있는 혼란을 줄이는 것은, 결국 AI 에이전트를 실제 업무에 도입하려는 기업 모두에게 직결되는 문제다. 안전 연구의 결과가 표준과 평가 방법으로 이어진다면, 에이전트 상용화의 속도와 신뢰도 함께 높아질 수 있다는 기대가 깔려 있다.

자세한 내용은 구글 딥마인드(Google DeepMind)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

AI Matters 뉴스레터 구독하기