소프트웨어정책 연구소가 발표한 AI 브리프에 따르면, 챗GPT 같은 AI 서비스가 폭발적으로 늘어나면서 전 세계 IT 기업들이 AI 전용 컴퓨터 센터 건설에 천문학적 돈을 쏟아붓고 있다. 마이크로소프트는 2025년 한 해 동안 전 세계 AI 컴퓨터 센터를 짓는 데 800억 달러(약 108조원)를 투자할 계획이라고 발표했다. 이는 AI 학습과 서비스 제공을 위한 핵심 시설을 확보하려는 전략이다.

구글도 미국 아이오와주에 2년간 70억 달러(약 9조 5천억원)를 추가로 투자해 AI 인프라를 늘린다고 밝혔고, 아마존은 1,000억 달러(약 135조원), 메타는 최대 650억 달러(약 88조원)를 각각 투입할 예정이다.

일론 머스크가 설립한 AI 회사 xAI는 미국 멤피스에 '콜로서스'라는 거대한 AI 컴퓨터를 만들었다. 이 컴퓨터는 20만 개의 고성능 칩을 사용하며, 300메가와트의 전력을 소모한다. 이는 25만 가구가 동시에 쓸 수 있는 전력량과 같다. xAI는 더 큰 규모의 후속 프로젝트를 위해 120억 달러(약 16조원)를 추가로 모으고 있다.

챗GPT를 만든 OpenAI는 일본 소프트뱅크, 오라클과 함께 5,000억 달러(약 675조원)를 4년간 투자해 텍사스주에 초대형 AI 센터를 건설하는 '스타게이트 프로젝트'를 시작했다. 이 프로젝트는 최대 40만 개의 고성능 칩을 설치할 수 있는 규모로, 인간 수준의 범용 인공지능 개발을 목표로 하고 있다.

AI 칩의 절대강자 엔비디아는 직접 컴퓨터 센터를 운영하지는 않지만, AI 전용 칩과 관련 기술을 공급하는 핵심 역할을 하고 있다. 엔비디아의 최신 A100, H100 칩은 대규모 AI 학습과 서비스에 최적화돼 있어 주요 기업들이 앞다퉈 도입하고 있다.

시장 규모 126조원으로 폭성장, 매년 27% 급증세

시장조사기관 Fortune Business Insight는 AI 컴퓨터 센터 시장이 2025년 약 24조원에서 2032년까지 매년 26.8%씩 성장해 126조원 규모로 커질 것으로 예상한다고 발표했다. AI 기술 확산과 디지털 전환이 빨라지면서 주요 기업들이 대규모 투자를 늘리고 있고, 에너지 효율이 좋고 확장 가능한 AI 센터가 시장 성장을 이끄는 핵심 시설로 자리 잡고 있다.

또 다른 조사기관 Grand View Research는 AI 컴퓨터 센터 시장이 2024년 약 18조원에서 매년 28.3%씩 성장해 2030년에는 약 82조원으로 커질 것으로 전망했다. 하드웨어, 소프트웨어, 서비스 분야 모두에서 투자와 개발이 활발해지고 있으며, 클라우드 기반 AI 서비스와 주변 기기까지 연결하는 기술 발전이 시장 확대를 이끌고 있다.

대규모 컴퓨터 센터 부문이 2024년 34.4%의 시장 점유율로 압도적 1위를 차지하고 있다. 이들은 규모가 클수록 운영비가 줄어드는 장점을 활용하는 동시에 복잡한 AI 학습에 필요한 높은 성능을 제공하고 있다. 아마존, 구글, 마이크로소프트, 메타 등이 운영하는 AI 슈퍼컴퓨터는 모두 이런 대규모 방식으로 만들어지고 있다.

2027년까지 AI 센터 40%가 전력 부족으로 운영 위기

AI 컴퓨터 센터가 급속히 늘어나면서 전력 소비도 크게 증가할 것으로 예상된다. 시장조사기관 IDC는 전 세계 컴퓨터 센터의 전력 사용량이 2023년보다 2028년까지 매년 19.5%씩, 약 두 배 이상 늘어날 것으로 예측했다. 특히 AI 관련 작업이 이런 전력 수요 증가를 주도할 것으로 분석했다.

IT 컨설팅 회사 가트너는 2024년 AI 컴퓨터 센터의 전력 소비가 261테라와트시에서 2027년 500테라와트시로 거의 두 배 늘어날 것으로 예측했다. AI 수요가 급증하면서 컴퓨터 센터의 연간 전력 소비는 앞으로 2년간 최대 160%까지 늘어날 것으로 예상되며, 이 때문에 2027년까지 전체 AI 컴퓨터 센터의 약 40%가 전력 공급 부족으로 운영에 어려움을 겪을 것으로 내다봤다.

실제 사례로, 일론 머스크의 '콜로서스' AI 컴퓨터는 300메가와트의 전력을 소모하는데, 이는 인구 25만 명 정도의 중소 도시가 전체적으로 사용하는 전력량과 같다. 냉각을 위한 물 사용량도 크게 늘어나 수자원 부족 위험이 커지고 있어, 미국·대만·유럽 등에서는 컴퓨터 센터가 몰린 지역의 물 관리가 중요한 정책 과제가 되고 있다.

친환경 에너지 없으면 AI도 없다, 전력망 혁신 필수

대규모 전력 수요를 안정적으로 충당하려면 재생에너지 확대와 친환경 전력망 구축이 반드시 필요하다. 구글은 2024년 12월 에너지 전문기업들과 협력해 미국 내에 기가와트급 컴퓨터 센터 단지를 만들고, 여기에 전력을 공급할 새로운 친환경 발전소 건설을 추진한다고 발표했다.

마이크로소프트는 지속가능한 운영을 위해 재생에너지 사용을 늘리고 AI 기반 에너지 관리 기술을 적용하는 데 집중하고 있으며, 아마존은 2030년까지 100% 재생에너지 사용을 목표로 태양광, 풍력 등 다양한 친환경 에너지 프로젝트에 투자하고 있다.

수소나 소형 원자로 등 새로운 친환경 전력원 확보, 컴퓨터 센터 전용 전력망 구축, AI 기반 에너지 관리·저장 시스템, 버려지는 열 재활용과 스마트 전력망 기술 도입 등이 필요한 상황이다.

미국·중국·영국, AI 인프라 패권 경쟁 치열

주요 국가들이 AI 컴퓨터 센터 확보를 국가 차원의 전략으로 추진하며 글로벌 패권 경쟁이 치열해지고 있다. 미국 트럼프 대통령은 2025년 7월 'AI 경쟁에서 이기는 미국 AI 행동계획'을 발표했다. 이 계획은 환경 규제 완화와 승인 절차 간소화를 통해 컴퓨터 센터와 발전소 건설을 빠르게 진행하고, 정부 소유 땅을 적극 제공하는 내용을 담고 있다.

중국은 미국과의 기술 경쟁이 심해지면서 AI 산업을 자립화하는 방향으로 정책을 바꾸고 있다. 2025년 1월 중국 언론은 미국의 무역 통제가 강화되는 상황에서 중국이 82억 달러(약 11조원) 규모의 AI 투자 펀드를 만든다고 보도했다. 조사기관 자료에 따르면 2024년 중반까지 250개 이상의 AI 컴퓨터 센터가 중국 내에서 완공되었거나 건설 중이다.

영국 정부는 2024년 9월 컴퓨터 센터를 '국가 핵심 인프라'로 지정했다. 2025년 1월에는 'AI 기회 실행계획'을 발표해 2030년까지 국가 컴퓨팅 능력을 현재보다 최소 20배 이상 늘리겠다는 목표를 세웠다. 영국은 AI 인프라 구축을 빠르게 진행하기 위해 'AI 성장구역'을 만들어 전력 공급과 승인 절차를 개선한 AI 전용 지역을 조성하고 있다.

데이터 주권 전쟁, 사우디 '데이터 대사관' 개념 등장

AI 컴퓨터 센터는 엄청난 양의 민감한 데이터와 AI 모델을 저장·처리하는 핵심 시설이어서 사이버 보안과 데이터 주권 문제가 매우 중요해지고 있다. 사우디아라비아는 2025년 4월 '글로벌 AI 허브법' 초안을 공개하며 AI 산업과 인프라 육성을 위한 법적 기반을 마련하기 시작했다.

이 법안의 핵심은 '데이터 대사관' 개념이다. 외국 정부와 기업이 자국 법률에 따라 컴퓨터 센터를 운영할 수 있도록 허용해서 데이터 주권과 국가 간 협력을 새로운 방식으로 조율하겠다는 구상이다. 이런 시도가 확산되고 있으며, 주요 국가들도 AI 컴퓨터 센터와 클라우드 산업 관련 규제를 정비하고 있다.

아랍에미리트(UAE)는 2025년 5월 아부다비에서 현지 기업 G42가 주도하고 마이크로소프트, 오픈AI, 엔비디아 등이 참여하는 'Stargate UAE' 차세대 AI 인프라를 구축하기 시작했다. 이 시설은 총 5기가와트 규모 중 1기가와트 컴퓨팅 클러스터로, 2026년 1단계 200메가와트 클러스터 가동을 목표로 하고 있다.

국내 기업들도 AI 센터 투자 경쟁 가세

국내에서도 AI 컴퓨터 센터 건설 경쟁이 치열해지고 있다. SK텔레콤은 2025년 6월 아마존과 협력해 울산에 국내 최대 규모(고성능 칩 6만 개)의 대형 AI 컴퓨터 센터를 건설한다고 발표했다. 매우 높은 밀도로 서버를 배치하고, 공기와 물을 함께 사용하는 하이브리드 냉각 시스템을 도입하며, AI 센터 운영을 최적화하는 관리 시스템을 적용할 예정이다.

네이버는 엔비디아, 해외 투자기업들과 손잡고 북아프리카 모로코에 차세대 AI 컴퓨터 센터를 건설한다고 발표했다. 유럽과 중동, 아프리카 지역 전체에 AI 컴퓨팅 서비스를 제공하는 것이 목표로, 전력과 운영비가 저렴한 모로코에 500메가와트급 재생에너지 기반 센터를 만든다. 첫 단계로 엔비디아의 최신 칩이 들어간 40메가와트급 AI 슈퍼컴퓨터를 2025년 내에 구축하고, 나중에 최대 500메가와트까지 단계적으로 늘릴 예정이다.

KT는 2025년 5월 전국 최초로 민관이 협력한 AI 클라우드 센터를 경북 예천군에 완성했다. 약 1,500억원이 투입된 이 센터는 총 10메가와트 전력 용량 중 IT용으로 6메가와트를 사용할 수 있는 고성능·저전력 서버 전용 공간을 제공한다. 클라우드 환경에 특화된 오픈소스 기술을 적용해 유연성과 수요 변화 대응력을 높였다.

정부도 AI 대전환의 핵심인 '국가 인공지능 컴퓨팅 센터' 건설을 본격화하고 있다. 2025년 1월 관계부처가 합동으로 최대 3조 4천억원 규모로 고성능 칩 3만 개 이상을 설치한 국가 AI 컴퓨팅 센터를 건설한다고 발표했다. 국산 AI 반도체 수요 창출을 위해 국산 칩과 메모리 내 연산 기술도 함께 적용할 계획이며, 전력 승인 절차 단축, 세제 혜택 등 민간 투자를 늘리는 방안을 구체화하고 있다.

2025년 6월 출범한 이재명 정부는 '세계 최강의 AI 인프라'를 국가 전략으로 내세우며, AI 컴퓨터 센터 건설을 통한 'AI 고속도로' 구축을 핵심 국정 과제로 추진하고 있다.



FAQ

Q: AI 데이터센터가 일반 데이터센터와 다른 점은 무엇인가요?

A: AI 데이터센터는 대규모 AI 모델의 학습과 추론을 위해 고성능 GPU와 초저지연 네트워크, 첨단 냉각 및 전력 관리 시스템을 통합하여 AI 워크로드에 최적화된 고밀도 컴퓨팅 인프라를 갖춘 데이터센터입니다. 일반 데이터센터보다 훨씬 높은 전력 밀도와 연산 능력이 필요하며, 액체 냉각 시스템과 고속 상호연결 기술이 필수적으로 요구됩니다.

Q: AI 데이터센터 시장이 이렇게 빠르게 성장하는 이유는 무엇인가요?

A: 생성형 AI 붐과 대형 언어모델(LLM) 개발 경쟁이 가속화되면서 막대한 연산자원이 필수적으로 요구되고 있기 때문입니다. 또한 IoT, 메타버스, 자율주행 시스템 등 신기술의 확산과 AI 기반 산업 전환으로 인한 대용량 데이터 생성 및 고속 처리 수요가 급증하고 있습니다. 주요국들이 AI 데이터센터를 국가 안보와 경제 경쟁력 확보를 위한 전략 자산으로 인식하고 대규모 투자를 진행하고 있는 것도 성장 동력입니다.

Q: AI 데이터센터의 전력 소비 증가가 환경에 미치는 영향은 어떻게 될까요?

A: AI 데이터센터의 전력 수요 급증으로 탄소 배출과 물 사용량이 크게 증가할 것으로 예상됩니다. 2023년 AI 서비스 확장에 따른 데이터센터 간접 탄소배출은 2020년 대비 평균 150% 증가할 전망입니다. 이에 따라 재생에너지 확대, 소형 모듈 원전(SMR), 수소 등 다양한 친환경 전력 공급원 확보와 함께 에너지 효율적인 냉각 기술 도입이 시급한 상황입니다.

해당 기사에 인용된 리포트 원문은 SPRi에서 확인 가능하다.

리포트 명: AI 데이터센터 동향과 시사점

이미지 출처: SPRi

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.