델 테크놀로지스가 25일 서울 삼성동 코엑스에서 ‘델 테크놀로지스 포럼 2026(Dell Technologies Forum 2026)’을 개최하고, 기업의 AI 투자를 실제 비즈니스 성과로 연결하기 위한 전략을 제시했다.

‘가능성, 그 너머의 성과로(From Possibility to Progress)’를 주제로 열린 이번 행사에서는 한국 델 테크놀로지스 김경진 회장의 환영사에 이어 유상모 사장과 맷 던피(Matt Dunfee) 본사 수석부사장이 기조연설에 나섰다. SK하이닉스 주영표 부사장과 과학커뮤니케이터 장동선 뇌과학자도 초대 연사로 참여했다.

델은 생성형 AI가 기업의 실험 단계를 지나 실제 업무와 산업 현장으로 확대되면서 기업의 고민도 달라지고 있다고 진단했다. AI 모델 자체의 성능이나 도입 가능성에서 나아가 투자 비용과 전력, 데이터센터 인프라, 보안과 데이터 거버넌스 등을 함께 고려해야 하는 단계에 접어들었다는 것이다. 이를 바탕으로 올해 포럼에서는 AI를 실제 성과로 연결하기 위해 기업이 준비해야 할 인프라와 운영 방식의 변화가 주요 화두로 다뤄졌다.

김경진 회장, AI 도입 넘어 비용·전력 효율 강조

김경진 한국 델 테크놀로지스 회장은 환영사에서 생성형 AI가 본격적으로 확산되기 시작한 이후 기업이 AI를 바라보는 관점도 빠르게 달라지고 있다고 짚었다. 초기에는 AI를 어디에 적용하고 무엇을 할 수 있는지에 관심이 쏠렸다면, 현재는 비용과 전력 소비를 줄이면서 실제 업무에서 어느 정도 효과를 얻을 수 있는지가 주요 고민으로 자리 잡았다는 설명이다.

김 회장은 AI 활용 범위가 넓어질수록 모델 자체의 성능뿐 아니라 이를 뒷받침하는 데이터센터와 전력, 냉각, 기업 데이터의 활용 방식까지 함께 고려해야 한다고 강조했다. AI를 도입하는 단계에서 벗어나 실제 운영 효율과 성과를 판단해야 하는 시점에 접어들었다는 의미다.

유상모 사장, AI·데이터·보안 아우르는 실행 로드맵 제시

이어 기조연설에 나선 유상모 한국 델 테크놀로지스 사장은 지난 1년간 AI 시장의 변화 속도가 예상보다 빨랐다고 진단했다. AI 모델 이용 비용 자체는 낮아지고 있지만 기업의 활용 범위가 확대되면서 토큰 소비량은 빠르게 증가하고 있으며, AI가 조언을 제공하는 역할에서 직접 업무를 수행하는 에이전트로 발전하면서 기업이 관리해야 할 시스템과 데이터의 범위도 넓어지고 있다고 설명했다.

AI 사용량 증가는 데이터센터 운영에도 직접적인 영향을 미친다. 유 사장은 AI가 산업 현장으로 확산될수록 사이버 복원력과 리스크 관리, 데이터 거버넌스의 중요성이 함께 커지고 있다고 짚었다. 특히 전력과 냉각 문제 역시 기존 IT 부서만의 영역에서 벗어나 기업 경영과 국가 차원에서 함께 고려해야 할 문제로 확대되고 있다고 설명했다.

이에 따라 기업이 AI와 데이터, 보안, 데이터센터를 각각 별개의 사업으로 추진하기보다는 실제 구축과 운영까지 연결할 수 있는 하나의 로드맵을 마련해야 한다고 강조했다. 보안과 사이버 복원력 역시 시스템 구축 이후 보완하는 방식보다 AI 인프라를 설계하는 단계에서 함께 고려해야 한다는 것이 유 사장의 설명이다.

맷 던피 수석부사장, 에이전트 시대 맞춰 업무·인프라 재설계해야

맷 던피 델 테크놀로지스 수석부사장은 AI 확산에 대응하기 위한 과제로 데이터센터 현대화와 함께 기업의 업무 방식 자체를 재설계해야 한다고 강조했다. 델이 진행한 ‘2026년 모던 엔터프라이즈 레디니스 조사(The Modern Enterprise Readiness Study 2026)’에 따르면 국내 응답자의 72%는 현재 데이터센터 환경이 대규모 AI 및 분석 워크로드를 지원하기에 충분하지 않다고 답했다. 84%는 여러 대의 구형 장비를 최신 서버와 스토리지로 통합·전환하는 데이터센터 현대화 계획을 갖고 있는 것으로 나타났다.

던피 수석부사장은 AI 에이전트의 확산이 단순히 새로운 도구를 추가하는 차원이 아니라 기업의 업무 흐름을 바꾸는 변화가 될 것으로 내다봤다. 향후 개인이 여러 개에서 많게는 수백·수천 개의 에이전트를 활용하는 환경으로 발전할 수 있으며, 반복적인 업무를 AI가 담당하고 구성원은 본래 맡은 업무에 집중할 수 있도록 기존 워크플로를 다시 설계해야 한다는 설명이다.

기업용 AI 에이전트를 실제 업무에 적용하려면 데이터 준비와 업무 흐름에 대한 이해, 온톨로지 구축, 기존 시스템과의 통합도 병행돼야 한다. 던피 수석부사장은 사업부서와 데이터 사이언스, 보안, 법무 및 개인정보보호 조직 등이 함께 참여해야 실제 투자수익률을 확보할 수 있다고 설명했다. AI 에이전트가 늘어날수록 토큰당 비용 하락보다 전체 사용량이 더 빠르게 증가할 가능성이 있는 만큼, AI 투자비용과 인프라 구성 역시 함께 검토해야 한다고 덧붙였다.

주영표 SK하이닉스 부사장, 에이전틱 AI 시대 메모리 구조 변화 제시

초대 연사로 기조연설에 나선 주영표 SK하이닉스 부사장은 에이전틱 AI 확산에 따라 메모리가 처리해야 할 데이터의 규모와 대역폭 요구도 빠르게 증가하고 있다고 진단했다. 대규모언어모델의 크기가 커지는 데 더해 여러 AI 에이전트가 역할을 나누고 서로 데이터를 주고받으면서 모델 가중치뿐 아니라 컨텍스트와 KV캐시 등을 처리하는 메모리의 역할이 더욱 중요해지고 있다는 설명이다.

SK하이닉스가 제시한 GPT-4급 MoE(전문가혼합) 모델 사례에서는 가중치 저장에 약 3.5TB의 메모리가 필요하고, 초당 20개의 토큰을 생성할 경우 메모리 읽기 대역폭이 초당 4.4TB에 이른다. 주 부사장은 GPU의 연산 성능이 계속 높아지는 상황에서 현재처럼 GPU 주변의 제한된 공간에 HBM을 배치하는 방식만으로는 필요한 메모리 대역폭을 확보하는 데 한계가 있을 것으로 내다봤다. 이에 대응하기 위해 메모리를 수직 방향으로 적층해 면적당 대역폭을 높이는 기술이 중요해질 것으로 전망했다.

다만 GPU 위에 여러 층의 메모리를 직접 적층할 경우 발열과 전력, 냉각 등 새로운 기술적 과제가 발생한다. 주 부사장은 이러한 문제를 메모리 업체만으로 해결하기 어렵다며 제품 연구개발 단계부터 시스템 및 인프라 기업과 함께 준비할 필요가 있다고 강조했다. SK하이닉스 역시 델 테크놀로지스와 연구개발부터 사업에 이르는 장기적인 전략적 협력 관계를 모색하고 있다고 밝혔다. AI 컴퓨팅 성능 경쟁이 GPU와 메모리 개별 부품을 넘어 서버 설계와 냉각, 전력을 포함한 시스템 전체의 문제로 확대되고 있다는 설명이다.

유상모 한국 델 테크놀로지스 사장은 “많은 기업들이 AI를 새로운 성장 기회로 적극 받아들이고 있지만, AI를 실제 비즈니스에 적용하면서 보안과 규제, 데이터 거버넌스, 인프라 준비도 등 다양한 어려움에 직면하고 있다”고 설명하며 “델 테크놀로지스는 엔드-투-엔드 포트폴리오와 개방형 생태계를 통해 기업들에 장기적인 기술 로드맵을 제시하고, AI를 통해 비즈니스 성과 창출을 지원하는 전략적 파트너로서 역할을 다할 계획이다”라고 말했다.