OpenAI 비영리 법인 자문 위원회가 발표한 보고서에서 인공지능이 모든 인류에게 도움이 되려면 시민사회가 적극 참여하고 민주적으로 관리되어야 한다고 강조했다. 이 보고서는 AI 업계에서 처음으로 지역 사회를 직접 찾아가 일반 시민들의 솔직한 의견을 들은 연구라는 점에서 주목받고 있다.

3개월간 500명과 대화해 만든 '사람 중심' AI 비전

OpenAI 비영리 위원회는 3개월 동안 500명이 넘는 개인과 100개가 넘는 단체와 대화를 나누며 보고서를 작성했다. 참여 단체들은 노동, 기업, 종교, 교육, 보건, 청소년 개발, 시민권, 경제 기회 등 다양한 분야에 걸쳐 있으며, 이들이 대표하는 인구는 700만 명에 달한다. 위원회는 "우리가 만난 많은 분들을 이 보고서의 공저자로 생각한다. 그들의 아이디어가 우리 권고안 전체에 녹아있다"고 밝혔다. 이번 연구는 AI 시스템이 이미 바꾸기 시작한 환경 속에서 살아가는 사람들의 목소리를 직접 들었다는 점에서 의미가 크다.

참가자들은 OpenAI의 "인공일반지능이 모든 인류에게 도움이 된다"는 사명에 진정한 열의를 보였다. 하지만 동시에 "모든 인류"가 실제로는 "일부"만을 뜻하게 될 수 있다는 우려도 표현했다.

경제 격차 해소부터 AI 이해력까지 3대 핵심 과제

위원회는 OpenAI 비영리 법인이 추진해야 할 세 가지 핵심 과제를 제시했다. 첫 번째는 '사람 부문 투자 및 경제 격차 해소'다. 비영리 자원을 활용해 경제적 분열을 해소하고 시민 인프라에 투자하며 AI 혜택을 널리 나누는 시스템을 지원하자는 것이다. 위원회는 "주요 자금 지원이 끊어지고 있는 지금, 지역 조직화와 보건과학 서비스에 긴급 지원금을 빠르게 제공하는 것부터 시작할 수 있다"고 제안했다.

두 번째는 '이해와 영향력의 민주화'다. AI 설계와 배치, 결정 과정이 투명하고 인간적이며 반응적이 되도록 해서 일반인들이 참여할 수 있게 만드는 것이다. 위원회는 "미국교원연맹과의 파트너십이 AI 도구를 실제 사용할 사람들과 함께 설계하고 배치하는 좋은 출발점"이라고 평가했다.

세 번째는 'AI로 자선활동 혁신하고 확장하기'다. 위원회는 기존의 위에서 아래로 내려주는 자선활동 대신 변화를 위한 새로운 자선활동을 실천하고, 기존 방법으로는 해결할 수 없던 문제들에 과감한 전략을 시도할 것을 제안했다. 예를 들어 연구진과 기타 인력으로 구성된 '자선 봉사단'을 통해 현장에서 AI 노하우를 전달하는 방안을 제시했다.

"구조가 곧 전략" - 독립성과 투명성이 관건

보고서는 "구조가 곧 전략"이라며 OpenAI 비영리 법인이 진정 인류를 위해 일하려면 역사적으로 인류를 축소시켜온 방식으로 운영해서는 안 된다고 강조했다. 위원회는 "존엄성을 약속하면서 자의적 판단만 제공할 수는 없다"며 이 비영리 법인이 단순한 타협안이 아닌 약속으로 기억되려면 계약처럼 행동해야 한다고 주장했다.

구체적인 관리 개선 방안으로는 비영리 이사회 구성원들이 공익 사명에 최고의 충성을 다해야 하고, 자체 프로그램과 목표를 영구적으로 유지하고 발전시킬 충분한 자금과 자원에 접근할 수 있어야 한다고 제안했다. 또한 캘리포니아와 델라웨어 주 검찰총장의 감독을 비영리 기관의 민주적 성격을 보여주는 중요한 특징으로 확인할 것을 권했다.

투명성 면에서는 강력한 이해충돌 방지 장치를 유지하고, AGI가 모든 인류에게 도움이 되는 사명을 어떻게 발전시키고 촉진하고 있는지 정기적으로 공개 보고해야 한다고 강조했다.

기존 자선활동 한계 넘어선 새로운 모델 제시

위원회는 기존 자선활동의 한계를 지적하며 새로운 모델을 제시했다. 지역사회들은 기존 자선활동이 아무리 좋은 의도였어도 때로는 평판 관리, 기관 보신, 착취적 책임 시스템이 되었다고 지적했다. 그 결과 수혜자들은 자격을 증명하려 애쓰고, 자금 제공자들은 위험을 관리하며, 지역사회는 자신들이 만들지도 않은 부족함의 논리를 헤쳐나가야 하는 상황이 되었다는 것이다.

새로운 자선 모델의 핵심 변화로는 인간 리더십 명문화, 지역사회 역할로의 공무원 순환 근무, 경쟁보다는 협력 보상, 아첨 논리 제거, 공유된 시민 상상력 제도화, 보조금 담당 직원 임기 제한, 자선에서 시민 엔진으로 전환 등 7가지를 제시했다. 특히 위원회는 "이 비영리 법인의 역할은 혁신 최전선에 자금을 대는 것이 아니라 권력의 중심을 옮기는 것"이라고 강조하며, 공익을 위한 새로운 형태의 기관이 되어야 한다고 주장했다.

FAQ

Q: OpenAI 비영리 위원회가 말하는 'AI 이해력'이 뭔가요?

A: AI 이해력은 민주적 기반시설의 일부로, AI 시대에 시민이 갖춰야 할 해석력, 판단력, 기술 이해 능력을 말합니다. 위원회는 이를 연설권이나 선거권만큼 민주주의에 꼭 필요한 시민 역량으로 봅니다.

Q: 이번 보고서가 기존 AI 관리 방식과 다른 점은?

A: 이 보고서는 AI 업계에서 처음으로 지역사회를 직접 찾아가 일반 시민들의 솔직한 의견을 들었다는 점이 특징입니다. 기술 전문가뿐 아니라 AI 영향을 직접 받는 사람들의 목소리를 반영한 것이 가장 큰 차이점입니다.

Q: OpenAI 비영리 법인이 왜 중요한가요?

A: 이 비영리 법인은 주요 AI 기업 중 유일하게 캘리포니아와 델라웨어 주 검찰총장에게 구조적으로 책임을 지는 기관입니다. 이는 단순한 제약이 아니라 민주적 감독에 힘과 신뢰를 주는 중요한 특징입니다.

해당 기사에 인용된 보고서 원문은 오픈AI 뉴스룸에서 확인 가능하다.

보고서 명: Statement from the OpenAI Board of Directors on the Nonprofit Commission Report

이미지 출처: 오픈AI

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.