도널드 트럼프 미국 대통령이 깜짝 발표한 정책이 AI 업계를 뒤흔들고 있다. '좌편향적인 AI'와 정치적으로 치우친 AI를 정부가 더 이상 사용하지 않겠다고 선언한 것이다. 이는 구글, 오픈AI 같은 빅테크 기업들의 AI 개발 방식을 완전히 바꿀 수 있는 폭탄선언이다. 테크크런치가 23일(현지 시간) 보도한 내용에 따르면, 트럼프는 이번 명령에서 다양성과 포용성을 강조하는 정책을 "해롭고 파괴적"이라고 규정했다. 특히 인종차별 문제나 성소수자 관련 내용, 무의식적 편견 등을 다루는 AI를 문제 삼았다.

전문가들은 이 정책이 AI 회사들을 움츠러들게 만들 것이라고 우려한다. 정부 계약을 따내려는 AI 기업들이 트럼프 정부의 입맛에 맞게 AI를 만들려고 할 수 있다는 것이다. 특히 요즘 AI 회사들은 돈이 많이 들어가는 사업을 하고 있어서 정부 지원금이 절실한 상황이다.

이 발표는 트럼프가 'AI 행동계획'을 내놓은 같은 날 나왔다. 이 계획은 사회 문제보다는 AI 기술 발전과 중국과의 경쟁에 더 집중하겠다는 내용이다. 트럼프는 이날 AI 관련 행사에서 "이제 좌편향을 완전히 없앨 것"이라며 "정치적 편견이나 특정 이념에 물든 AI 기술을 정부가 사지 않겠다"고 말했다. 그는 "앞으로 미국 정부는 진실하고 공정한 AI하고만 거래할 것"이라고 강조했다.

하지만 무엇이 공정한지, 무엇이 객관적인지 판단하는 것은 쉽지 않다. 영국 오픈대학교의 언어학 교수 필립 서전트는 테크크런치와의 인터뷰에서 "완전히 객관적인 것은 세상에 없다"며 "언어 자체가 결코 중립적이지 않기 때문에 완전한 객관성은 불가능하다"고 말했다. 게다가 트럼프 정부의 생각이 모든 미국인의 생각과 같지는 않다. 트럼프는 기후변화 대응, 교육, 공영방송, 연구 지원 등의 예산을 자주 삭감하려 했고, 이런 것들을 '좌편향적'이라고 부른다. AI 전문가이자 휴먼 인텔리전스라는 단체의 대표인 루만 초드하리는 "(트럼프 정부가) 싫어하는 것은 뭐든지 좌편향이라고 부른다"고 지적했다.

수요일 발표된 명령서에서 '진실 추구'와 '정치적 중립성'에 대한 정의는 애매한 부분이 많다. '진실 추구'는 "역사적 사실과 과학을 중시하는" AI로, '정치적 중립성'은 "특정 이념을 밀어주지 않는 중립적인 도구"로 정의했다. 이런 애매한 정의 때문에 AI 회사들이 압박을 받을 수 있다. 법적 강제력은 없지만, 정부 계약을 원하는 AI 회사들은 정부 눈치를 볼 수밖에 없기 때문이다.

지난주 오픈AI, 앤트로픽, 구글, xAI가 국방부와 계약을 맺어 각각 최대 2억 달러를 받기로 했다. 국가 안보에 도움 되는 AI를 개발하는 조건이다. 이 중 어떤 회사가 이번 정책에서 유리할지는 아직 모른다. 테크크런치에 따르면, 그중에서도 일론 머스크의 xAI가 가장 유리할 것 같다. 머스크는 자신의 AI 챗봇 '그록'을 "덜 편향된 진실 추구자"라고 홍보해 왔다. 그록은 주류 언론을 피하고 정치적으로 올바르지 않은 정보도 찾아보라는 지시를 받았다. 하지만 최근 그록이 반유대주의적 발언이나 히틀러를 찬양하는 글을 올려서 논란이 되기도 했다.

스탠포드대학교 법학과 교수 마크 렘리는 이번 명령이 "명백한 차별"이라며 "정부가 방금 그록과 계약을 맺고서는 다른 AI는 편향적이라고 하는 것"이라고 비판했다. 실제로 xAI는 국방부 계약과 함께 '정부용 그록'을 모든 정부 기관에서 구매할 수 있게 했다고 발표했다. AI의 답변은 그것을 만든 사람들과 학습한 데이터를 반영한다. 때로는 개발자들이 너무 조심스럽게 만들거나, 포용성을 강조하는 인터넷 자료로 학습시킨 AI가 이상한 결과를 내놓기도 한다. 구글은 작년 제미나이 챗봇이 흑인 조지 워싱턴이나 다양한 인종의 나치를 그려서 비판받았는데, 트럼프가 이를 잘못된 AI의 예로 들었다.

초드하리는 이번 정책으로 AI 회사들이 정부 입맛에 맞게 학습 데이터를 바꿀까 봐 걱정된다고 했다. 특히 머스크가 그록으로 "인간 지식을 모두 다시 써서 틀린 것은 지우고 빠진 것은 채우겠다"고 한 발언을 우려스럽게 봤다. 이는 머스크가 무엇이 진실인지 판단하는 역할을 맡게 되는 것으로, 사람들이 정보를 얻는 방식에 큰 영향을 줄 수 있다.

트럼프가 AI 담당자로 임명한 데이비드 색스는 그동안 '좌편향 AI'를 비판해 왔다. 그는 유명한 AI 제품들이 좌익 가치관을 담고 있다고 주장하며, 이를 표현의 자유 문제로 봤다. 전문가들은 하나의 절대적 진실은 없다고 말한다. 편향되지 않은 결과를 만드는 것은 불가능하며, 특히 요즘처럼 사실조차 정치적으로 해석되는 시대에는 더욱 그렇다.

서전트 교수는 "AI가 기후과학이 맞다고 말하면, 그게 좌편향인가?"라며 "어떤 사람들은 객관적이려면 양쪽 의견을 다 들어야 한다고 하지만, 한쪽은 근거가 전혀 없을 수도 있다"고 말했다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: 이디오그램 생성