델 테크놀로지스 본사 맷 던피 수석부사장이 8월 25일 코엑스에서 열린 델 테크놀로지스 포럼 2026 기조연설에 나섰다. 그는 AI 도입의 성패를 가르는 조건으로 토큰 경제성과 에이전트 설계를 제시했다.

모델별 비용 비교

던피 수석부사장은 영상 관제 사례를 시연으로 제시했다. 도로 사고 영상을 분석해 긴급 구조대가 도착하기까지 걸린 시간을 계산하는 과제였다. 답은 5초였다. 이 답 하나를 얻기까지 여러 개의 AI 호출과 도구, 서로 다른 에이전트가 동원됐고 소모된 토큰은 3억 개를 넘었다. 대부분은 모델이 답을 내기 전에 스스로 따져 보는 데 쓴 사고 토큰이었다.

같은 과제를 모델만 바꿔 가며 실행하자 비용이 달라졌다. 사내에 둔 GB10에서 엔비디아 네모트론 모델로 처리했을 때가 가장 낮았다. GB10은 엔비디아가 중앙 처리 장치와 그래픽 처리 장치를 하나로 결합한 그레이스 블랙웰 슈퍼칩으로, 이를 탑재한 델 프로 맥스 위드 GB10은 통합 메모리 128기가바이트를 갖춰 매개변수 2,000억 개 규모의 언어 모델까지 책상 위에서 구동한다. 네모트론은 엔비디아가 가중치를 공개한 오픈웨이트 모델군을 가리킨다. 가중치는 모델이 학습으로 익힌 수치 뭉치를 말한다.

같은 과제를 외부 클라우드의 소형 모델로 바꾸자 비용이 열 배 수준으로 상승했다. 구글의 경량 모델인 제미나이 플래시에서는 200달러대까지 올라섰고, GPT-5.5에서는 그보다 더 높아졌다.

던피 수석부사장은 “모든 언어 모델이 똑같이 만들어지지는 않는다”며 “어떤 모델을 어디에 두고 구동할지가 비용에서 자릿수 차이를 만든다”고 말했다.

델 내부 토큰 사용 분포

델 내부 데이터도 함께 공개했다. 여러 사례에서 전체 직원의 10%가 토큰의 90%를 소비하고 있었다. 던피 수석부사장은 “만약 10%가 아니라 100%의 직원이 상위 10%와 똑같이 일한다면, 그 활용 사례는 더 이상 감당할 수 없는 비용이 된다”고 말했다.

토큰 단가는 계속 내려가고 있다. 그러나 사용량이 그보다 빠르게 늘어 총액은 줄지 않는다. 던피 수석부사장은 이 비용을 고정비로 보면 안 된다고 했다. 쓰는 만큼 변하는 값이고, 앞으로도 계속 그럴 것이라는 설명이다.

IT 담당자 역할 변화

던피 수석부사장은 청중석의 실무자들을 향해 직함이 바뀌었다고 말했다. 시스템 관리자나 애플리케이션 운영 담당이 아니라 AI 설계자이자 아키텍트라는 것이다. 어떤 작업인지, 어떤 지식을 참조해야 하는지, 맥락을 어디까지 넣어야 하는지를 이해해야 하고, 언어 모델에 실제로 전송하는 정보량을 줄이는 설계까지 다뤄야 한다고 했다.

델은 이런 판단을 돕는 자체 프레임워크를 사용하고 있다. 세로축에 에이전트 유형을, 가로축에 설계 시 고려할 항목을 놓고 AI 사무국에 들어오는 요청을 분류한다.

에이전트 다섯 유형

던피 수석부사장은 에이전트를 다섯 갈래로 나눠 설명했다. 복잡도를 세로축, 자율성을 가로축에 놓은 분류다.

가장 아래에 생산성 에이전트가 있다. 아이디어를 내고 질문에 답하고 데이터를 분석하는 종류로, 지금까지 대부분의 사용이 여기 몰려 있었다. 그다음이 데이터를 정리하고 다듬는 스튜어드 에이전트다. 사람 눈에 보이지 않는 곳에서 정보를 손질해, 그 정보를 참조하는 다른 에이전트가 더 나은 결과를 내도록 만든다.

세 번째는 조율 에이전트다. 던피 수석부사장은 델이 영업 담당이 바뀔 때 계정을 인계하는 과정에 이 에이전트를 도입했다고 밝혔다. 담당자가 바뀌어도 고객 경험과 그동안 쌓인 기록이 끊기지 않게 하는 역할이다.

네 번째가 전문가 에이전트로, 여기서부터 완전 자율에 가까워진다. 델은 고객이 보유한 제품과 계약 범위를 시스템이 파악하고 업그레이드나 교체 의사를 확인해 주문까지 처리하는 구조를 준비하고 있다. 사람 영업 담당은 그 대신 고객의 사업에 무엇이 맞는지 논의하는 쪽을 담당한다. 마지막이 이 모든 것을 지휘하는 컨시어지 에이전트다.

던피 수석부사장은 “앞으로 1~2년 안에 이 자리에 있는 모든 분이 에이전트를 관리하게 될 것”이라며 “몇 개일 수도, 수십 개일 수도, 수백 수천 개일 수도 있다”고 말했다.

직무기술서 분류 실험

던피 수석부사장은 청중에게 직접 해 볼 만한 실험을 제안했다. 자신의 직무기술서를 언어 모델에 입력하고, 그중 사람이 해야 할 일과 에이전트가 대신할 수 있는 일을 나눠 보라는 것이다.

직무기술서에 적힌 일의 대부분은 사람만 할 수 있다는 답이 나온다고 그는 말했다. 던피 수석부사장은 “문제는 직무기술서에 적혀 있지도 않은 잡무들”이라며 “그것들이 정작 해야 할 일을 하지 못하게 막는다. 바로 거기에 AI를 겨눠야 한다”고 말했다.

그는 기존 업무 절차에 AI를 추가하는 방식을 가장 나쁜 선택으로 꼽았다. 20년, 30년, 40년 된 방식을 그대로 두고 AI만 얹으면 투자 효과가 나오지 않는다는 것이다.

에이전트 구축의 선행 조건

던피 수석부사장은 에이전트를 만드는 일이 AI보다 어렵다고 말했다. 데이터 준비, 업무 흐름 파악, 온톨로지 설계가 앞서야 하고, 기존 시스템과 연결하는 작업도 필요하다. 온톨로지는 데이터가 서로 어떤 관계인지 정의해 두는 체계를 말한다. 에이전트끼리 통신하는 규격이든 MCP든, 시스템이 스스로 일하려면 도구가 갖춰져 있어야 한다. MCP는 AI 모델이 외부 데이터와 도구에 접근하는 방식을 표준화한 규격이다.

그는 “이건 혼자 하는 게임이 아니라 여럿이 하는 게임”이라고 말했다. 회사 차원의 성과를 내려면 마케팅, 현업, 데이터 과학, 보안, 법무와 함께 움직여야 한다는 것이다.

하이브리드 실행 구조

이날 영상으로 소개된 마이클 델 회장 겸 최고경영자와 젠슨 황 엔비디아 최고경영자의 대담에서도 에이전트가 중심이었다.

젠슨 황 최고경영자는 에이전트가 하네스에서 시작된다고 설명했다. 하네스는 모델이 도구를 사용하고 작업을 이어 가도록 감싸는 실행 틀을 말한다. 이 하네스는 보안이 적용되고 통제되는 컨테이너, 즉 샌드박스 안에 있어야 한다는 것이 그의 설명이다. 엔비디아는 참조용 하네스로 네모클로를 제시했다.

젠슨 황 최고경영자는 자체 도메인 데이터로 학습시킨 전용 에이전트는 사내 장비에서 구동하고 대형 모델은 클라우드에서 구동하는 하이브리드 구조를 제시했다. 시스템에는 컨피덴셜 컴퓨팅이 적용돼 있어 운영자에게 데이터를 노출하지 않아도 된다고 밝혔다. 컨피덴셜 컴퓨팅은 연산 중인 데이터까지 암호화된 영역 안에서 처리하는 기술이다.

그는 “이제는 명령을 실행하는 것이 아니라 토큰을 생성하는 것”이라며 “그것이 이 시대 AI의 경제 구조”라고 말했다.

마이클 델 회장은 5,000곳이 넘는 기업 고객이 이미 델 AI 팩토리에서 워크로드를 처리하고 있다고 밝혔다. 신약 개발부터 산업 자동화, 금융 서비스까지 분야가 걸쳐 있다는 설명이다.

국내 인프라 준비도 조사

던피 수석부사장은 극복해야 할 과제로 세 가지를 제시했다. 데이터센터 현대화, 안전과 신뢰를 바탕에 둔 AI 확장, 현대적인 업무 환경 구현이다.

근거로는 델이 밴슨 본에 의뢰해 지난 6월 35개국 2,950명의 비즈니스·IT 의사결정권자를 조사한 ‘2026년 모던 엔터프라이즈 레디니스 조사’를 들었다. 한국에서는 100여 명이 응답했는데, 이 가운데 72%가 현재 데이터센터 환경으로는 대규모 AI와 분석 워크로드를 감당하기 어렵다고 답했다. 84%는 구형 장비 여러 대를 최신 서버와 스토리지로 통합하는 현대화 계획을 갖고 있다고 밝혔다.

보안과 거버넌스도 걸림돌로 확인됐다. 응답자의 75%는 AI 데이터 관련 정부 규제에 대응하기 어렵다고 답했고, 65%는 보안과 컴플라이언스 문제로 AI 도입이 실제로 지연되거나 중단된 적이 있다고 답했다. 60%는 제3자가 접근할 가능성이 있는 생성형 AI 도구에 회사의 중요한 데이터를 맡기기 어렵다고 답했다.

에이전트가 늘면 개별 직원의 PC가 감당할 몫도 커진다. 한국 응답자의 90%는 최신 디바이스가 회의와 협업의 질을 크게 높인다고 답했고, 87%는 노후 장비가 AI 앱 도입을 가로막는다고 답했다.

던피 수석부사장이 제시한 실행 지침은 세 가지였다. 경제성을 이해하고 대비할 것, 데스크톱에서 직접 실험하고 시제품을 만들어 토큰 소비량을 파악할 것, 그리고 일하는 방식 자체를 바꿀 것이다.

이미지 출처: 델 테크놀로지스