하버드 비즈니스 리뷰는 기업들이 생성형 AI 도입 시 기술의 완성도보다 전략적 활용 방안의 명확성이 중요하다고 분석했다. 생성형 AI의 지능 수준이나 발전 속도에 집중하기보다는, 현재 수준에서도 어떻게 경쟁 우위를 확보할 수 있는지에 초점을 맞춰야 한다는 것이다.

뉴욕대학교 스턴 경영대학원의 바라트 아난드(Bharat N. Anand) 학장과 하버드 비즈니스 스쿨의 앤디 우(Andy Wu) 교수는 생성형 AI를 전략적으로 활용하기 위한 실용적 프레임워크를 제시했다. 이들은 수백 명의 관리자들과 함께 작업하고 직접 생성형 AI 이니셔티브를 이끌며 디지털 전환과 전략을 연구한 경험을 바탕으로, 단순히 빠르게 도입하는 것이 아니라 경쟁사와 차별화된 방식으로 생성형 AI를 적용해야 한다고 강조했다.

모든 직원이 전문가 없이 생성형 AI를 사용할 수 있는 시대

생성형 AI의 가장 큰 혁신은 기술 수준의 향상이 아니라 접근성의 극적인 개선이다. 수십 년 동안 AI 사용은 엔지니어, 컴퓨터 프로그래머, 데이터 과학자들의 전유물이었다. 하지만 오픈AI의 챗GPT를 필두로 한 생성형 AI는 자연어를 통한 상호작용을 가능하게 함으로써 이러한 장벽을 무너뜨렸다.

이제 조직 내 모든 구성원이 깊은 기술 전문성이나 데이터 과학팀의 지원, IT 부서의 승인 없이도 생성형 AI 도구를 사용할 수 있다. 더 나아가 생성형 AI는 이메일, 화상회의, 스프레드시트, 고객관계관리(CRM) 소프트웨어, 전사적 자원관리(ERP) 시스템 등 사람들이 이미 사용하고 있는 도구에 점점 더 많이 내장되고 있어 도입 장벽이 더욱 낮아지고 있다.

이러한 인간-컴퓨터 상호작용의 발전은 1980년대 초기 명령줄 컴퓨팅에서 그래픽 사용자 인터페이스(GUI)로의 전환과 유사하다. 당시 윈도우(Windows)는 컴퓨터를 획기적으로 더 강력하게 만든 것이 아니라, MS-DOS 명령어를 몰라도 그 성능에 접근할 수 있게 함으로써 개인 컴퓨팅을 근본적으로 변화시켰다. 생성형 AI도 마찬가지로 대화를 통해 정교한 머신러닝 모델을 누구나 사용할 수 있게 만들었다.

완벽함을 기다리는 것은 실수다, 지금 당장 가치 창출 기회가 있다

결함이 없고 전능한 에이전트형 AI를 기다리는 것은 잘못된 접근이다. 생성형 AI는 현재의 결함에도 불구하고 시간을 절약하고 비용을 줄이며 새로운 가치를 창출할 수 있다. 결과물이 완벽하지 않다는 이유로 도입을 미루는 것은 기회를 오해하는 것이다. 생성형 AI는 이미 비즈니스의 많은 영역에서 의미 있는 개선과 효율성을 제공할 수 있다.

중요한 것은 완벽함이 아니라 현재의 업무 방식과 비교한 상대적 효율성이다. 예를 들어 학생 강의 평가를 요약하거나 구직 지원자의 이력서를 선별하거나 병원 침대를 배정하는 작업을 생각해보자. 이러한 작업들은 암 진단이나 중요한 직원 채용, 위험에 처한 개인에게 심리치료를 제공하는 것과는 다르다. 전자의 경우 오류의 비용이 상대적으로 낮다. 강의 평가 요약이 뉘앙스를 놓치거나 예비 이력서 선별 과정에서 주변부 후보자를 간과하더라도 제한적인 위험만 발생한다.

오류 비용과 필요한 지식 유형으로 판단하는 생성형 AI 활용 프레임워크

생성형 AI가 특정 작업에 적합한지 여부는 생성형 AI의 역량뿐만 아니라 두 가지 핵심 요소에 달려 있다.

첫 번째는 오류 비용으로, 생성형 AI가 실수할 경우 얼마나 심각한 결과가 초래될지다. 작업에서의 오류가 심각한 피해, 재정적 손실, 평판 훼손으로 이어질 경우 기업은 인간의 감독 없이 생성형 AI를 사용하는 데 훨씬 더 신중해야 한다.

두 번째 요소는 작업이 요구하는 지식의 유형이다. 이력서 선별이나 강의 평가 요약처럼 명시적 데이터, 즉 포착되고 처리될 수 있는 구조화되거나 비구조화된 정보에 의존하는 작업은 생성형 AI에 적합하다. 반면 심리치료, 소프트 스킬 채용, 미묘한 리더십 결정과 같은 작업은 암묵적 지식, 즉 공감, 윤리적 추론, 직관, 인간 경험을 통해 구축된 맥락적 판단을 필요로 한다.

이러한 작업들은 단순히 정보를 검색하는 것이 아니라 뉘앙스를 해석하고 맥락에 유연하게 대응하며 모호한 상황에서 판단을 적용하는 것을 포함하기 때문에 생성형 AI가 수행하기 근본적으로 더 어렵다.

이 두 차원, 즉 오류 비용과 필요한 지식 유형은 생성형 AI를 효과적으로 사용할 위치와 방법을 식별하기 위한 프레임워크의 기초를 형성한다.

이 프레임워크는 네 개의 사분면으로 구성된다. 첫째, '노 리그렛(No Regrets)' 영역은 오류 비용이 낮고 명시적 지식이 필요한 경우로, AI가 모든 것을 처리한다. 둘째, '크리에이티브 카탈리스트(Creative Catalyst)' 영역은 오류 비용이 낮고 암묵적 지식이 필요한 경우로, AI가 옵션을 생성하고 인간이 선택한다. 셋째, '휴먼 퍼스트(Human-First)' 영역은 오류 비용이 높고 암묵적 지식이 필요한 경우로, 인간이 주도하고 AI가 보조한다. 넷째, '퀄리티 컨트롤(Quality Control)' 영역은 오류 비용이 높고 명시적 지식이 필요한 경우로, AI가 작업을 생산하고 인간이 검증한다.

AI 기반 경쟁 우위 구축하기: 데이터를 자산으로 재구상하라

빠르게 움직이는 것도 중요하지만, 속도만으로는 다가오는 경쟁에서 앞서갈 수 없다. 조직이 생성형 AI로 가치를 창출하는 방식을 차별화하는 전략이 필요하다. 첫째, 조직의 모든 사람에게 기술에 대한 광범위한 접근을 의무화해야 한다. 회사의 모든 사람은 프레임워크의 네 사분면 모두에 작업을 가지고 있으며, 따라서 모두가 생성형 AI를 사용하여 더 많은 것을 할 수 있는 잠재력을 가지고 있다.

IT 부서는 급증하는 모델과 특화된 애플리케이션을 따라잡기 위해 고군분투하는 것이 당연하다. 생성형 AI에 대한 완전한 통제를 최고기술책임자(CTO)에게 위임하는 것은 아무리 유능하더라도 진전을 늦출 수 있다. 2023년 JP모건 체이스(JPMorgan Chase)는 보안팀이 제3자 검토를 수행하는 동안 직원들의 챗GPT 사용을 일시적으로 차단했다. 이는 합리적인 예방 조치였지만 6만 명의 사용자가 실험할 수 없게 만들었다.

모든 조직은 이러한 트레이드오프에 직면한다. 사이버 보안 우려는 현실적이지만, 직원들이 듣는 가장 큰 메시지가 무엇을 시도하지 말아야 하는지라면 혁신은 가장 느린 승인 대기열만큼만 빠르게 진행될 것이다. 많은 IT 리더들은 모든 위험으로부터 보호하기 위해 최대한의 예방 조치를 취하기를 원한다. 하지만 그들은 개인 식별 정보와 같은 규제되거나 매우 민감한 데이터의 유출과 같은 가장 중요한 위험에 대해 보호하는 데 집중해야 한다.

둘째, 모든 자산을 데이터로 재구상해야 한다. 초기 세대 생성형 AI의 역량은 구축된 공개 데이터로 제한되었다. 점점 더 많은 기업들이 직원들에게 생성형 AI 검색을 통해 접근하거나 회사의 지식이 주입된 모델을 훈련시키는 데 사용할 수 있는 풍부한 독점 데이터를 제공하고 있다. 이를 따르려면 조직 내에서 오늘날 데이터가 어디에 있는지 확인하고 중앙 집중화해야 한다. 모든 회사는 사업부, 기능, 지역에 흩어져 있거나 격리된 데이터를 중앙 집중화하기 시작해야 한다.

생성형 AI 시대 이전인 2000년대에 카지노 운영업체 해럴즈 엔터테인먼트(Harrah's Entertainment)는 모든 슬롯머신 당김, 호텔 체크인, 저녁 식사 영수증을 단일 데이터 웨어하우스로 집중시켰다. 데이터 보물창고에서 얻은 통찰력을 통해 경쟁사보다 빠르게 수익을 증대할 수 있었다. 경쟁사들은 해럴즈 카지노의 화려함과 광채는 복사할 수 있었지만 데이터 인프라나 그 데이터를 신속하게 활용하는 문화는 복사할 수 없었다. 데이터를 통합하는 규율을 갖는 것은 오늘날 훨씬 더 중요하다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. 생성형 AI를 언제 도입해야 하나요?

A.생성형 AI가 완벽해지기를 기다릴 필요는 없다. 지금 당장 오류 비용이 낮고 명시적 지식이 필요한 작업부터 도입을 시작하면 된다. 이력서 선별, 회의록 요약, 일반적인 고객 문의 응답 같은 업무는 생성형 AI가 즉시 처리할 수 있는 영역이다. 중요한 것은 완벽한 정확도가 아니라 현재 업무 방식 대비 효율성 향상이다.

Q. 우리 회사는 생성형 AI로 어떻게 경쟁 우위를 확보할 수 있나요?

A.경쟁 우위는 단순히 생성형 AI를 빠르게 도입하는 것이 아니라 차별화된 방식으로 사용하는 데서 나온다. 모든 기업이 같은 도구로 같은 작업을 한다면 이익은 결국 고객과 공급업체에게 돌아간다. 독점 데이터를 활용하고, 조직을 데이터 중심으로 재설계하며, 생성형 AI가 당신의 조직 내에서 다른 곳보다 더 가치 있게 만드는 고유한 인재와 프로세스, 문화를 구축해야 한다.

Q. 생성형 AI의 오류나 환각 현상 때문에 걱정됩니다. 어떻게 대응해야 하나요?

A.생성형 AI의 오류율 자체보다 중요한 것은 오류의 비용이다. 암 진단이나 핵심 인재 채용처럼 실수가 심각한 결과를 초래하는 작업에는 인간의 감독이 필수적이다. 반면 강의 평가 요약이나 일반 고객 문의 응답처럼 오류의 영향이 제한적인 작업에는 생성형 AI를 즉시 활용할 수 있다. 작업을 네 가지 유형으로 분류하고 각각에 맞는 인간-AI 협업 방식을 적용하면 된다.

해당 기사에 인용된 보고서 원문은 하버드 비즈니스 리뷰에서 확인 가능하다.

보고서 명: The Gen AI Playbook for Organizations

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.