미 연방거래위원회(FTC)가 민간 AI 기업들을 상대로 컴플라이언스 서한을 발송했다. 현지 시각 8월 11일 테크타임스가 전한 내용이다. 지난 7월 공개된 AI 정확성 정책안의 집행 준비에 해당하는데, 정책안의 근거 문서가 앤트로픽(Anthropic)을 이념 편향의 사례로 여러 차례 언급하면서도 머스크의 그록 개입은 다루지 않아 논란이 커지고 있다.

서한의 배경은 지난 7월 1일 FTC가 발표한 ‘인공지능 시스템의 정확성 억제’ 정책안이다. AI 기업이 밝히지 않은 이념적 목표로 출력을 조종하면 FTC법 5조의 소비자 기만에 해당할 수 있다는 게 골자다. 지난해 12월 트럼프 대통령이 서명한 행정명령 14365에 따라 마련된 문서로, 7월 31일까지 의견을 받았는데 300건이 넘는 의견 가운데 대다수가 비판적이었다.

문서의 각주에는 앤트로픽이 여섯 차례 넘게 등장한다. 앤트로픽이 운영해 온 헌법적 AI(Constitutional AI) 같은 안전 훈련 방식이 ‘숨은 이념 편향’의 사례로 거론된 것이다. 반면 그록은 광고 문구를 인용한 각주 한 곳에만 이름이 등장했고, 머스크는 언급조차 없다. 머스크는 그록의 출력에 개입했다는 사실을 공개적으로 인정한 바 있다. 지난해 5월 그록이 무관한 질문에 ‘백인 대량학살’ 주장을 끼워 넣었던 사건과, 같은 해 7월 반유대주의 표현을 내놓아 서비스가 중단됐던 사건이 대표적이다.

정책안의 법리 자체도 검증을 받고 있다. 시민단체 센터포디지털민주주의(CDT)는 지난 3일 의견에서 ‘중립적 기준선’이라는 전제가 실제로 존재하지 않는다고 지적했다. 어떤 모델이든 학습 데이터와 피드백 가중치, 보상 설계에 따라 출력이 결정되는데, 그 아래에 배포 가능한 중립 버전이 따로 있는 게 아니라는 것이다. 전자프런티어재단(EFF) 등도 이 정책이 관점 기반 사전 제한으로 헌법에 어긋날 수 있다고 경고했다.

FTC는 정책안이 최종 확정되지 않은 상태에서도 집행 의지를 먼저 보여준 셈이다. 앤드루 퍼거슨 위원장은 AI 기업이 정치적 의제를 위해 출력을 조종하고 이를 숨기면 법 위반 가능성이 있다고 말해 왔다. 서한에 답하는 기업들이 어떤 기준으로 자신의 안전장치를 소명해야 하는지가 다음 확인 과제가 될 것으로 보인다. FTC는 어떤 공시가 기준을 충족하는지, 어떤 튜닝 방식이 규제 대상인지 아직 밝히지 않았다. 정책안은 공식 규칙이 아니라 향후 위원회 구성에 따라 수정되거나 철회될 수 있는 문서다.

자세한 내용은 테크타임스에서 확인할 수 있다.

이미지 출처: 미국 연방거래위원회(FTC)