AI 윤리 기준 현황과 과제

딜로이트의 2024년 기술 신뢰와 윤리 연례 보고서에 따르면, 전체 응답 기업의 53%가 AI 등 신기술에 대한 윤리 기준을 명확히 가지고 있지 않은 것으로 나타났다. 기업들은 윤리 기준 수립의 주된 이유로 규제 준수(34%), 행동 기준 강화(22%), 기업 문화 지원(20%)을 꼽았다.

이는 많은 기업이 여전히 윤리 기준을 리스크 관리나 규정 준수 차원에서 접근하고 있음을 보여준다. 더불어 기업들은 윤리적 의사결정의 장기적 가치와 지속가능한 혁신을 위한 기반으로서의 중요성을 인식하기 시작했다.

급격한 AI 도입과 윤리적 과제

기업의 AI 도입이 급격히 증가하고 있다. 응답 기업의 87%가 최근 1년간 AI 활용을 늘렸으며, 내부적으로는 78%(전년 대비 20% 증가), 대외적으로는 47%(전년 대비 52% 증가)가 AI를 도입했다. 특히 TMT 기업들의 도입률이 50%로 가장 높았으며, 이들 기업은 AI 혁신을 주도하며 새로운 비즈니스 모델과 서비스를 개발하고 있다.

또한 TMT 기업들은 AI 윤리 기준 수립에서도 선도적인 역할을 하고 있다. 그러나 빠른 도입 속도에 비해 거버넌스 체계는 미흡한 것으로 나타났다. 58%가 모델 학습에 투자하는 반면, 거버넌스 서비스 투자는 30%에 그쳤다.

우선순위와 위험 요소

'안전과 보안'이 가장 중요한 윤리 기준으로 꼽혔으며, 전년 대비 37% 증가한 78%의 응답자가 이를 지지했다. 세부적으로는 데이터 프라이버시가 가장 큰 우려사항으로 나타났으며, 전체 응답자의 72%가 이를 지적했다. 또한 기업들은 투명성 문제(47%)와 데이터 출처의 신뢰성(40%)에 대해서도 높은 관심을 보였다. 지적재산권 문제(37%)와 AI 시스템의 편향성 및 오류(32%) 역시 주요 우려사항으로 지적되었다.

기업들은 윤리 기준 미준수 시 발생할 수 있는 가장 큰 리스크로 평판 손상(82%)을 꼽았으며, 재무적 손실(66%)과 규제 처벌(60%)이 그 뒤를 이었다. 특히 장기적 관점에서 윤리적 위험 관리가 기업의 지속가능성과 직결된다는 인식이 확산되고 있다.

최고윤리책임자의 역할 강화

전체 응답 기업의 26%가 최고윤리책임자를 두고 있으며, 이는 2022년(25%)과 비슷한 수준이다. 이러한 조직의 68%는 최고윤리책임자 역할이 개인의 윤리적 의사결정 책임감을 높이는데 기여한다고 평가했다.

또한 81%의 기업이 최고윤리책임자가 적절한 권한과 지원을 받고 있다고 응답했으며, 67%는 경영진이 윤리 기준 수립에 대한 책임을 지고 있다고 답변했다. 특히 AI 관련 의사결정에서 최고윤리책임자의 역할이 더욱 중요해지고 있으며, 기술 개발 초기 단계부터 윤리적 검토를 수행하는 것이 강조되고 있다.

조직 문화와 교육의 중요성

기업들의 윤리 교육이 지속적으로 확대되고 있다. 전체 응답 기업의 80%가 의무적인 기술 윤리 교육을 실시하고 있으며, 이는 2022년 대비 7% 증가한 수치다. 교육 효과에 대해서는 70%의 응답자가 실제 행동 변화로 이어진다고 평가했다. 기업들은 내부 AI 도구 활용 교육(67%)과 AI 관련 학습자료 제공(59%)에도 힘쓰고 있으며, 42%는 AI 전문 인력 채용을 진행 중이다. 교육 방식도 다양화되어 실습 기반 학습, 케이스 스터디, 시뮬레이션 등 실효성 있는 프로그램들이 도입되고 있다.

정부 규제와 글로벌 영향

정부의 역할에 대한 기대가 높아지고 있으며, 69%의 응답자가 정부가 윤리 기준 수립에 더 큰 역할을 해야 한다고 답했다. 특히 기업과 정부 간 협력의 필요성이 강조되어 74%가 이를 지지했으며, 60%는 추가 규제가 필요하다고 보았다. 또한 52%는 윤리 기준 채택에 대한 인센티브 제도를 지지했다.

유럽연합의 AI 법안과 미국의 AI 행정명령은 글로벌 기업들에게 상당한 영향을 미치고 있다. 유럽 기업의 34%가 EU AI 법안에 대응하고 있으며, 이는 AI 시스템의 위험도에 따른 규제와 투명성 요구사항을 포함한다. 북미 기업의 20%가 미국 AI 행정명령에 따른 변화를 진행 중이며, 이는 AI 개발의 안전성과 권리 보호에 초점을 맞추고 있다. 아시아 기업들 역시 25% 이상이 이러한 규제 변화에 영향을 받고 있다고 응답했다.

지속가능성과 에너지 과제

AI 확산에 따른 환경 영향이 새로운 과제로 부상하고 있다. 국제에너지기구(IEA)는 2026년까지 데이터센터, AI, 암호화폐 부문의 전력 소비가 현재의 2배 수준으로 증가할 것으로 전망했다. 미국 전력연구소(EPRI)는 더 구체적인 전망을 내놓았는데, 2030년까지 미국 데이터센터의 전력 소비가 전체 발전량의 4.6~9.1%를 차지할 것으로 예측했다.

이러한 상황에서 기업들은 전력 및 수자원 사용을 최적화하고 친환경 에너지를 적극적으로 활용하는 등의 대응책 마련이 시급한 것으로 나타났다. 특히 AI 모델 학습 과정에서의 에너지 효율성 개선과 친환경 데이터센터 구축이 주요 과제로 대두되고 있다.

해당 리포트의 원문은 딜로이트에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.