최근 국내 기업과 기관의 생성형 AI 도입에 대한 관심이 커지고 있다. 삼성전자는 직원의 업무 혁신과 전사적 AI 전환을 위해 임직원들에게 챗GPT 엔터프라이즈와 코덱스를 업무에 도입하기 시작했다. 서울대학교도 전 구성원 약 4만7,000명에게 교육기관 전용 생성형 AI 서비스인 챗GPT Edu를 제공하기로 했다.

이 같은 움직임을 두고 업계에서는 생성형 AI 활용이 개인 단위 생산성 도구를 넘어 조직 단위 업무 인프라로 확산되고 있다는 해석이 나온다. 기업과 기관의 AI 도입은 단순히 직원들에게 AI 계정을 제공하는 차원을 넘어, 대규모 조직이 데이터, 권한, 보안 기준, 업무 절차 안에서 AI를 활용하기 위한 운영 기반을 마련하려는 흐름으로 받아들여지고 있다.

이에 따라 기업용 AI의 기준도 달라지고 있다. 과거에는 모델 성능이나 사용 편의성이 주요 기준이었다면, 이제는 조직의 데이터와 업무 흐름 안에서 AI를 얼마나 안전하고 지속 가능하게 활용할 수 있는지가 핵심 요소로 떠오르고 있다. 동시에 조직 단위 AI 활용이 실제 업무 인프라로 자리 잡기 위해서는 접근성, 충분한 사용 용량, 합리적인 가격 구조도 중요한 조건으로 거론된다.

생성형 AI, 지식근로의 마찰 줄이는 도구로 부상

기업들이 엔터프라이즈 AI를 검토하는 배경에는 지식근로 방식의 구조적 변화가 있다. 오늘날 기업 업무는 문서, 이메일, 회의록, 프레젠테이션, 스프레드시트, 리서치 자료, 코드, 대시보드, 업무 시스템, 채팅 도구 등 여러 도구와 산출물에 분산돼 있다.

각각의 디지털 도구는 업무 효율을 높였지만, 동시에 정보와 의사결정이 여러 장소에 흩어지는 결과도 낳았다. 오픈AI가 2026년 6월 공개한 리포트 ‘The Next Era of Knowledge Work’는 이 같은 상황을 두고 사무실은 디지털화됐지만, 통합되지는 않았다고 설명했다.

같은 리포트는 McKinsey Global Institute 연구를 인용해 평균 지식근로자가 업무 주간의 약 28%를 이메일 관리에, 약 20%를 내부 정보 검색이나 업무를 도울 수 있는 동료를 찾는 데 쓴다고 밝혔다. 이는 현대 기업 업무에서 검색, 조율, 승인·검증에 상당한 시간이 투입되고 있음을 보여준다.

보고서는 현대 지식근로의 일상적 마찰을 세 가지로 정리했다. 첫째는 필요한 파일, 데이터, 메시지, 담당자 등 관련 정보를 찾는 검색의 비용이다. 둘째는 여러 팀, 도구, 형식 사이에서 정보와 의사결정을 이동시키는 조율의 비용이다. 셋째는 결과물을 검토하고 승인하며 실제 업무 기준에 맞는지 확인하는 승인·검증의 비용이다.

이런 환경에서 기업이 원하는 AI는 단순히 질문에 답하는 도구에 그치지 않는다. 기업은 분산된 정보와 업무 흐름을 연결하고, 조직의 기준과 통제 안에서 실제 업무 산출물과 후속 작업까지 지원할 수 있는 AI를 검토하게 된다. 엔터프라이즈 AI가 주목받는 이유도 여기에 있다.

엔터프라이즈 AI 도입, 계정 제공 아닌 운영 체계 구축

엔터프라이즈 AI를 도입한다는 것은 직원들에게 AI 계정을 나눠주는 것만을 의미하지 않는다. 기업의 데이터, 권한, 보안 기준, 업무 절차 안에서 AI를 어떻게 활용하고 관리할 것인지 정하는 일에 가깝다.

대규모 조직에서는 개인용 AI와 기업용 AI의 기준이 다르다. 개인용 AI가 빠른 답변과 편리한 사용 경험에 초점을 둔다면, 기업용 AI는 조직의 데이터와 권한, 보안 기준, 업무 절차 안에서 안전하게 운영될 수 있어야 한다.

엔터프라이즈 AI의 의미는 크게 생산성, 일관성, 통제로 나눌 수 있다. 생산성 측면에서 기업용 AI는 정보 탐색, 자료 정리, 문서 작성, 요약, 번역, 리서치, 데이터 분석, 리포팅 등 시간이 많이 드는 반복 지식업무를 줄이는 데 활용될 수 있다. 직원들은 초안 작성이나 내부 정보 검색에 쓰는 시간을 줄이고, 판단, 기획, 창의적 문제 해결, 고객 대응 등 더 높은 가치의 업무에 집중할 수 있다.

일관성도 중요한 요소다. 기업 업무는 개인의 경험과 방식에 의존하는 경우가 많다. 엔터프라이즈 AI는 내부 지식, 문서 템플릿, 업무 지침, 맞춤형 AI 도구, 워크플로우를 활용해 부서와 직원별로 달라지기 쉬운 업무 방식과 결과물 품질을 조직 기준에 맞게 정렬하는 데 도움을 줄 수 있다. 이는 AI 활용을 개인의 역량 차이에 맡기는 것이 아니라, 조직의 지식과 프로세스를 기반으로 확산한다는 의미다.

통제 역시 기업 환경에서 빠질 수 없는 기준이다. 기업에서 중요한 것은 AI가 모든 일을 자동으로 처리하는 것이 아니라, 승인된 데이터와 권한, 보안, 감사 체계 안에서 활용되는 것이다. 사람은 최종 판단과 승인, 책임을 유지하고, AI는 반복적이고 시간이 많이 드는 업무를 지원하는 방식으로 활용돼야 한다.

따라서 엔터프라이즈 AI 도입은 생산성 향상뿐 아니라, 조직의 지식과 업무 방식을 일관되게 확산하고, 기업이 관리 가능한 환경 안에서 AI를 운영하는 기반을 마련하는 과정으로 볼 수 있다.

데이터 보호·접근 관리·감사 가능성이 핵심 요건

기업용 AI 도입 시 검토되는 주요 요건은 데이터 보호, 접근 관리, 관리자 통제, 내부 데이터 연동, 감사 가능성, 실제 업무 적용성 등이다. 오픈AI의 엔터프라이즈 제품은 이러한 요건에 대응하는 기업용 기능을 제공한다.

데이터 보호 측면에서 기업은 업무 데이터가 어떻게 처리되는지, 모델 학습에 사용되는지, 데이터 보존·삭제 정책을 통제할 수 있는지 확인해야 한다. 오픈AI의 엔터프라이즈 제품은 고객 데이터를 모델 학습에 사용하지 않으며, 기업이 승인한 환경 안에서 AI를 활용할 수 있도록 설계돼 있다.

보안과 접근 관리도 중요하다. 기업은 사용자와 권한을 조직 단위로 관리할 수 있어야 한다. 오픈AI의 엔터프라이즈 제품은 싱글사인온, 도메인 인증, SCIM, 역할 기반 접근 제어 등 기업용 보안·관리 기능을 제공한다.

관리자 통제와 사용 현황 관리 기능도 기업용 AI의 핵심 요소다. 조직은 AI가 승인된 방식으로 운영되는지 확인해야 하며, 관리자는 사용 현황과 접근 범위를 파악할 수 있어야 한다. 오픈AI의 엔터프라이즈 제품은 관리자 콘솔과 분석 대시보드를 통해 사용자 관리와 조직 단위 운영을 지원한다.

내부 데이터와 업무 도구 연결도 활용도를 좌우한다. 기업용 AI는 사내 업무 맥락과 연결될수록 실제 업무 적용성이 커진다. 오픈AI의 엔터프라이즈 제품은 커넥터를 통해 기업이 허용한 내부 데이터와 업무 도구를 AI 활용에 연결할 수 있도록 지원한다.

감사와 컴플라이언스 요건도 중요하다. 기업은 AI 사용 이력과 데이터 관리 요건을 감사 가능한 방식으로 운영할 수 있어야 한다. 오픈AI의 엔터프라이즈 제품은 Compliance API와 Data Residency 등 컴플라이언스 관련 기능을 제공한다.

맞춤형 업무 활용 측면에서는 Custom GPTs, 커넥터, 데이터 분석, 리서치, 에이전트 기능 등이 활용될 수 있다. 이를 통해 기업은 부서별·업무별 특성에 맞춰 AI를 실제 업무 산출물과 워크플로우에 적용할 수 있다.

Codex, 개발자 도구 넘어 지식근로 업무로 확장

Codex는 엔터프라이즈 AI가 단순한 답변 도구를 넘어 실제 업무 도구와 산출물 안에서 활용되는 방향으로 확장되고 있음을 보여주는 사례다. 개발자 도구에서 출발한 Codex는 최근 데이터 분석, 리서치, 문서·스프레드시트·보고서 작업, 내부 도구 제작 등 다양한 지식근로 업무로 활용 범위를 넓히고 있다.

오픈AI에 따르면 Codex는 현재 매주 500만 명 이상이 사용하고 있으며, 데스크톱 앱 출시 이후 주간 활성 사용자가 6배 이상 증가했다. 지식근로자는 Codex 사용자의 약 20%를 차지하며, 이 사용자층은 개발자 사용자층보다 3배 이상 빠른 속도로 증가하고 있다.

최근 공개된 Codex 기능은 기업 업무에서 AI가 어떤 방향으로 활용될 수 있는지를 보여준다. 오픈AI는 Codex가 다양한 직무와 업무 흐름에서 활용될 수 있도록 역할별 플러그인, Sites, 주석 기능을 공개했다.

역할별 플러그인은 직무별 업무 도구와 지침, 워크플로우를 묶어 Codex가 특정 업무 맥락 안에서 작동할 수 있도록 하는 기능이다. 오픈AI는 데이터 분석, 크리에이티브 제작, 영업, 제품 디자인, 상장주식 투자, 투자은행 등 6가지 역할별 플러그인을 공개했으며, 이를 통해 총 62개 앱과 110개 기술을 활용할 수 있다고 설명했다.

예를 들어 데이터 분석에서는 제품·비즈니스 데이터를 탐색하고 주요 지표 변화의 원인을 분석하는 데 활용될 수 있다. 영업에서는 고객 신호 파악, 미팅 준비, 후속 조치, 고객 기록 업데이트 등을 지원할 수 있다. 크리에이티브와 제품 디자인 영역에서는 캠페인 자산, 광고 시안, 사용자 흐름, 프로토타입 등 검토 가능한 산출물 제작을 지원한다.

Sites는 Codex가 만든 결과물을 웹사이트나 앱 형태로 생성하고 공유할 수 있게 하는 기능이다. Business 및 Enterprise 고객을 대상으로 프리뷰로 제공되는 이 기능은 분석 자료, 계획, 고객 리뷰, 프로젝트 보드, 시나리오 플래너 등 팀이 함께 검토할 수 있는 작업 공간을 만드는 데 활용될 수 있다.

주석 기능은 문서, 스프레드시트, 슬라이드, 웹사이트 등 산출물의 특정 부분을 지정해 Codex에 수정이나 보완을 요청할 수 있게 한다. 사용자는 전체 결과물을 다시 만들 필요 없이, 수정이 필요한 부분을 선택하고 필요한 변경 사항을 지시할 수 있다. 이는 AI가 첫 초안을 만드는 데 그치지 않고, 사람이 검토하고 피드백을 주는 반복 개선 과정에도 활용될 수 있음을 보여준다.

결국 기업용 AI의 활용 범위는 단순한 답변 생성에서 업무 도구, 데이터, 산출물, 검토 과정으로 넓어지고 있다. 삼성전자와 서울대학교의 생성형 AI 도입 사례는 국내에서도 조직 단위 AI 활용이 본격화되고 있음을 보여준다. 앞으로 기업용 AI의 경쟁력은 모델 성능뿐 아니라 데이터 보호, 권한 관리, 업무 연동, 감사 가능성, 비용 구조를 포함한 운영 기반 전반에서 평가될 것으로 보인다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지