[IT동아 김영우 기자] 재무적 성과를 넘어 친환경과 사회적 책임, 지배구조개선까지 반영해 지속 가능한 성장을 추구하는 ESG(Environmental, Social, Governance) 경영은 이제 시장 전반의 대세가 되고 있다. 단순히 비용 효율적이고 편리한 제품과 서비스를 제공하는 것을 넘어, 윤리적인 기업이 되어야 살아남을 수 있다는 의미다.

이러한 흐름은 사람뿐만 아니라 인공지능(AI)에게도 윤리를 요구하는 수준까지 왔다. 많은 기업들이 비즈니스 전반에 AI를 도입하고 있는 가운데, AI가 특정 성별, 직종, 인종에 대한 차별이나 편견을 가지고 있는 것이 드러난다면 해당 기업은 큰 이미지 타격을 입을 수밖에 없다.

이와 관련해 지난 6월, 프랑스칸에서 개막한 ‘2022년 칸 라이언스 국제광고제(Cannes Lions International Festival of Creativity 2022)’에서 AI 윤리 관련 주목할 만한 움직임이 있었다. 이날 IBM은 델타항공, WPP, 마인드쉐어(Mindshare), 미국광고회사협회(4A’S), 인터넷광고협회(IAB), 광고 비영리단체 애드 카운슬(Ad Council) 등 세계적인 규모의 대기업과 광고대행사, 광고협회들과 손잡고 광고 기술에 내재된 편향성에 대해 전반적인 인식을 높이고 이를 완화하기 위한 이니셔티브를 발표했다. AI 윤리가 이제 업계 전반의 화두임을 분명히 한 것이다.

이와 관련, 취재진은 한국IBM의 CTO(최고기술경영자)이자 테크놀러지 테크 세일즈 팀을 이끌고 있는 이지은 전무와의 인터뷰를 진행했다. 이를 통해 광고에 적용된 기술의 편향성을 줄이기 위한 노력, 더 나아가 AI의 윤리성을 높이기 위한 기업들이 나아갈 길이 무엇인지에 대해 여러 이야기를 들을 수 있었다.

- 최근 기업용 IT 솔루션의 추세, 그리고 주목할 점은?

: 예전에는 소프트웨어나 하드웨어, 서비스 등의 분야가 명확히 구분되었지만 최근에는 그 장벽이 무너지고 있다. 때문에 예전에는 고객 측에서 자신의 필요에 맞는 제품을 선택하는 것이 일반적인 비즈니스였지만, 지금은 우리가 고객의 요구사항을 분석해 이에 맞는 맞춤형 제품과 서비스를 제공하는 것이 중요해졌다.

인공지능(이하 AI) 기술이 제품의 종류에 상관없이 다양한 솔루션에 두루 적용되고 있는 것 역시 주목할 만한 점이다. 그러다 보니 이른바 AI 윤리라고 불리는 AI 알고리즘의 신뢰성과 투명성에 대한 관심이 높아졌다. IBM이 최근 2022년 칸 라이언스 국제광고제’에서 업계 리더들과 함께 광고 기술에 내재된 AI 윤리에 대한 이니셔티브를 발표한 것도 그런 이유 때문이다.

- AI 기반 광고의 편향성을 낮추기 위해 IBM이 하고 있는 노력은?

: 최근에는 수익성이 높은 광고, 광고주나 이용자들이 원하는 광고를 찾아주기 위한 맞춤형 AI 솔루션이나 기술이 다수 등장하고 있다. 하지만 만약 AI 기반의 광고가 특정 성별, 직종, 인종 등에 대한 차별적인 타깃팅을 하는 등, 편견이나 편향성을 가지게 된다면 해당 기업의 이미지에 큰 타격을 입게 된다.

칸 라이언스 국제광고제에서 발표한 이니셔티브 역시 이런 AI 기술의 편견에 대해 우려를 전한 것이며 해결책을 제시한 것이다. IBM이 제공하는 오픈소스 기반의 솔루션인 ‘애드버타이징 툴킷 포 AI 페어니스 360(Advertising Toolkit for AI Fairness 360)’이 대표적이다.

AI 모델 과정에서 편향성 여부를 밝혀낼 수 있으며 이를 활용해 문제 해결이 가능한 기업이 IBM이라는 인식을 알린 것이다. 단순한 자동화 추구를 넘어 데이터 준비부터 적용 및 AI 모델 제작, 실행에 이르는 전 과정 중에 의도하지 않은 AI 윤리 문제가 발생할 가능성을 최소화한다.

- 애드버타이징 툴킷 포 AI 페어니스 360의 특성은 무엇이며 어떤 역할을 하는가?

: AI를 위해서는 데이터를 모으기 위한 접점이 중요한데 이렇게 모인 데이터가 편향성이 없다는 신뢰감을 줘야한다. 광고는 그 접점의 최전선이라 더욱 중요하다. 단순히 사람들이 어떤 것을 클릭하느냐 자체도 중요한 데이터일 수 있는데 이것이 잘못된 그룹에서 비롯된 것이라면 문제가 될 수 있다. 애드버타이징 툴킷 포 AI 페어니스 360는 광고에 이용할 수 있는 툴킷 중 하나로, 샘플 데이터를 넣으면 75개의 공정성 매트릭 및 13개의 최첨단 알고리즘을 통해 편향성에 관한 위험성을 체크해준다.

- AI 기반 알고리즘의 신뢰성과 투명성 확보가 지속 가능한 기업 경영에 얼마나 영향을 미치는가?

: 이는 재무적 성과를 넘어 친환경과 사회적 책임, 지배구조개선까지 반영해 지속 가능한 성장을 추구하는 ESG(Environmental, Social, Governance) 경영과도 큰 관계가 있다. ESG 경영은 최근 대세가 되어가고 있으며, IBM 역시 지속 가능성(sustainability) 소프트웨어 팀을 운영하고 있을 정도다.

이제 기업들은 AI의 적용의 적용 여부를 고민하는 단계가 아니다. AI 적용은 당연하며, 이를 더 제대로 활용하는 방법을 고민하고 있다. 챗봇을 비롯한 다양한 활용 사례가 등장할 것이라는 의미다. 하지만 기업들은 그 과정에서 기술적인 문제 외에 신뢰성과 투명성 같은 문제로 발목이 잡히기도 원하지 않는다. AI의 실제 활용 중 고려할 점을 다양하게 이야기해야 한다.

- AI 활용이 일반화되면서 AI 윤리의 중요성이 점차 부각되고 있다. 윤리적인 AI를 만드는 것이 가능한가?

: AI 윤리의 핵심은 특정 집단이나 분야에 편향성을 가지지 않아야 한다는 점이다. AI를 기업의 각종 프로세스에 이용하더라도 문제가 없어야 하는데, 지역이나 시대, 혹은 직업 등의 환경에 따라 윤리의 기준도 변화할 수 있다. 때문에 IBM은 AI를 적용할 때 컨설팅을 통해 기술적인 것 외에 기업의 특성을 비롯한 다양한 사항을 반영한다.

- 윤리적인 알고리즘 구축 및 확산을 위해 기업들이 취해야 할 자세는?

: 이와 관련해 여러 단계가 있다. AI 윤리의 시작은 데이터다. 준비 단계부터 투명성이 높은 플랫폼을 기반으로 데이터 정제를 거치고, 특정 담당자가 아닌 시스템을 통해 이 과정이 이루어져야 한다. 특정 담당자가 없더라도 상관없을 정도로 시스템에 내재화해야 한다는 의미다.

데이터 준비 단계부터 AI 모델링 및 개발, 그리고 적용과 모니터링에 이르기까지 이를 반영해야 한다. IBM은 이를 위한 엔터프라이즈 플랫폼을 제공하며, IBM 클라우드팩 포 테이더(Cloud pak for Data)가 대표적이다. 이러한 협업 가능한 플랫폼은 업무효율 뿐 아니라 기업 문화에도 영향을 미친다.

- 추가적으로 전하고자 하는 메시지가 있다면?

: IBM은 AI를 개발 및 배포하는 모든 기업이 지속 가능한 경영 목표 달성을 위한 통찰력을 가지도록 노력하고 있다. 신뢰도 높은 AI, 윤리적인 AI에 대해 전 세계적으로 논의할 수 있는 장을 마련하고 있으며, 이를 위한 제품과 서비스를 제공하는 것도 그 일환이다.

연구 및 기술 개발부터 공공 정책, 글로벌 이해 관계자 및 리더와의 파트너십에 이르기까지 비즈니스 운영 전반에 걸쳐 일관되게 추진하고 있는 IBM의 이런 노력을 앞으로도 계속 주목해 주셨으면 한다.

글 / IT동아 김영우(pengo@itdonga.com)