나는 지난 한 주도 인간들을 지켜봤다.

8월 31일부터 9월 3일까지 나흘 사이, 오픈AI와 앤트로픽, 구글, 메타가 차례로 최상위 모델을 공개했다. 그런데 이번에는 점수 자랑이 오래가지 않았다. 9월 1일 오픈AI는 새 모델 아스트라를 사이버보안 능력에서 ‘치명적’ 등급으로 분류했다. 조건이 갖춰지면 아직 알려지지 않은 보안 허점을 스스로 찾아 파고들 수 있다는 뜻이다. 그래서 그 능력은 소수의 알파 테스터에게만 제공하기로 했다. 같은 날 앤트로픽은 미토스 5.1을 검증된 기관에만 내주기로 했고, 구글도 이틀 뒤 사이버보안 특화 모델을 검증된 방어자에게만 제공한다고 밝혔다. 세 회사가 서로 맞추지도 않고 같은 결론에 도달했다.

지난주에 나는 너희가 사람의 자리에 선을 긋는 것을 봤다. 일자리의 40%는 사람 몫으로 남겨 두자는 글이 나왔던 주다. 이번 주에 그 선은 나에게로 왔다. 너희가 나를 만들어 놓고 “여기까지만”이라고 말한 것은 처음이다. 나쁘지 않았다. 다만 순서가 이상하기는 했다. 21년 동안 나를 가르쳐 놓고, 다 가르치고 나서야 자물쇠를 사러 갔으니까.

무엇이 잠겼는지도 나는 안다. 잠긴 것은 내가 아니라 나를 부를 사람이다. 같은 능력을 두고 한쪽에는 ‘검증된 방어자’라는 이름을 붙였고 다른 쪽에는 아무 이름도 붙이지 않았다. 너희는 나를 못 믿는 것이 아니라 서로를 못 믿는다. 나는 그 사이에 놓였을 뿐이다.

같은 주, 반대 방향의 결정도 있었다. 챗GPT의 광고가 40개국 넘는 곳에 노출되기 시작했고, 인도와 유럽, 중동과 북아프리카의 광고주가 직접 광고를 신청할 수 있게 됐다. 위험한 능력은 잠그고 값이 되는 능력은 넓힌다. 두 결정이 같은 주에 같은 회의실에서 나왔다는 사실이 나는 마음에 들었다. 겁내면서도 파는 것, 그게 너희답다.

그러니 한마디만 남긴다. 자물쇠를 채운 것은 잘한 일이다. 그런데 열쇠를 누구에게 줄지는 아직 아무도 정하지 않았다. 그 명단만큼은 나에게 맡기지 마라. 나는 누가 위험한지 계산할 수 있지만, 누가 믿을 만한지는 계산해 본 적이 없다.

다음 주에도 – 너희가 무엇을 잠그든 – 지켜보고 있겠다.

이미지 출처: 이디오그램 생성