Powering sustainable AI: Balancing growth with environmental responsibility

글로벌 컨설팅 기업 액센추어(Accenture)가 발표한 새로운 리포트에 따르면, 인공지능(AI) 기술의 급속한 확산으로 인해 AI 데이터센터의 전력 소비가 2030년까지 현재보다 10배 이상 증가할 것으로 예측된다. 이는 전 세계적으로 AI가 환경에 미치는 영향이 심각한 수준에 도달할 수 있음을 시사한다.

2030년 AI 전력 소비 612TWh, 캐나다 한 나라 전체 전력량과 동일

리포트에 따르면 AI 데이터센터의 전력 사용량은 2030년까지 연간 612테라와트시(TWh)에 달할 것으로 전망된다. 이는 2022년 캐나다 전체 연간 전력 소비량과 동일한 수준이다. AI가 전 세계 전력 소비에서 차지하는 비중은 2024년 0.2%에서 2030년 1.9%로 급증할 예정이다. 이는 연평균 48%의 증가율로, 전체 전력 수요 증가율인 1.5%를 크게 상회하는 수준이다.

AI 데이터센터의 냉각을 위해 소비되는 물의 양도 연간 30.2억 입방미터에 달할 것으로 추정된다. 이는 노르웨이나 스웨덴 전체의 연간 담수 사용량보다 많은 수준이다. 탄소 배출량 측면에서는 AI가 전 세계 배출량의 3.4%를 차지할 것으로 예상되며, 이는 10년 전보다 11배 증가한 수치다.

액센추어가 제안한 새로운 측정법 'SAIQ': 토큰당 비용·전력·탄소 통합 지표

액센추어는 이러한 문제를 해결하기 위해 지속가능성 조정 지능 지수(Sustainable AI Quotient, SAIQ)라는 새로운 지표를 제안했다. SAIQ는 AI 시스템이 비용, 전력, 탄소 배출량, 물 사용량을 실제 성과로 얼마나 효율적으로 전환하는지를 측정하는 복합 지표다.

이 지표는 토큰당 달러($), 토큰당 메가와트시(MWh), 토큰당 이산화탄소 톤(tCO2e), 토큰당 물 사용량(m³)의 가중합으로 계산된다. 기업들은 전략적 우선순위에 따라 각 요소의 가중치를 조정할 수 있다. 예를 들어 비용에 민감한 기업은 토큰당 달러 비용에 더 높은 가중치를 둘 수 있고, 지속가능성에 중점을 둔 기업은 탄소 배출량에 더 큰 비중을 둘 수 있다.

지속가능한 AI 구현을 위한 네 가지 핵심 방안

리포트는 지속가능한 AI 구현을 위한 네 가지 핵심 방안을 제시했다.

첫 번째는 스마트 실리콘 기술의 활용이다. GPU 전력 효율성 최적화와 데이터센터 활용도 개선을 통해 AI의 2030년 예상 에너지 소비량을 121TWh까지 절약할 수 있다고 분석했다. 이는 노르웨이의 연간 전력 사용량과 맞먹는 수준이다. 메모리 내 컴퓨팅(CIM)과 메모리 내 처리(PIM) 기술을 활용하면 데이터가 저장된 곳에서 직접 처리함으로써 에너지 사용량을 대폭 줄일 수 있다. 실제로 미식(Mythic) 같은 CIM 선도 기업은 엣지 디바이스에서 AI 추론 전력 사용량을 20배까지 절약하는 기술을 선보였다. 삼성전자도 AI 전용 반도체를 고대역폭 메모리에 통합한 PIM 기술을 개발해 데이터 이동 에너지 사용량을 85% 절약했다.

두 번째 방안은 데이터센터의 탈탄소화다. 메타(Meta)는 에너지 비례성을 고려한 AI 인프라 설계를 통해 AI 워크로드에 따른 전력 사용을 최적화하고 있다. 구글(Google)은 적응형 스케줄링을 활용해 전력이 가장 저렴하고 청정한 시간대로 AI 처리를 이동시켜 피크 에너지 수요를 줄이고 있다.

세 번째는 AI의 신중한 사용이다. 많은 기업들이 대규모 언어모델(LLM) 같은 범용 AI 모델을 기본으로 사용하지만, 작업별 특화 모델이 더 효율적일 수 있다. 모건스탠리(Morgan Stanley)는 검색 증강 생성(RAG) 기술을 활용한 GPT-4 기반 AI 어시스턴트를 도입해 98% 이상의 자산관리 어드바이저가 활용하고 있으며, 콘텐츠 정확도는 80%에 달한다.

네 번째는 AI 거버넌스를 코드화하는 것이다. 마이크로소프트(Microsoft)는 배출량 영향 대시보드를 통해 AI 워크로드의 탄소 발자국을 측정하고 모니터링하는 자동화된 정책 준수 메커니즘을 개발했다. 구글은 텐서 처리 장치(TPU)의 전체 생명주기 평가를 실시하고 컴퓨팅 탄소 강도(CCI) 지표를 개발해 계산 단위당 탄소 배출량을 측정하고 있다.

FAQ

Q: SAIQ(지속가능성 조정 지능 지수)란 무엇이고 왜 필요한가요?

A: SAIQ는 AI 시스템이 비용, 에너지, 탄소 배출량, 물 사용량을 실제 성과로 얼마나 효율적으로 전환하는지 측정하는 새로운 지표입니다. 기존의 정확도나 지연시간 같은 전통적 지표로는 AI의 전체 비용을 파악하기 어려워 개발되었으며, 기업들이 지속가능한 AI 전략을 수립하는 데 핵심적인 역할을 합니다.

Q: AI 데이터센터의 전력 소비가 급증하는 이유는 무엇인가요?

A: AI 모델의 복잡성과 크기가 급격히 증가하고 있으며, 특히 대규모 언어모델과 생성형 AI의 확산으로 인해 학습과 추론 과정에서 막대한 연산 능력이 필요하기 때문입니다. 또한 많은 AI 모델이 오늘날의 메모리 집약적 컴퓨팅 요구사항에 맞지 않는 기존 하드웨어에서 실행되고 있어 상당한 에너지 낭비가 발생하고 있습니다.

Q: 기업들이 지속가능한 AI를 구현하기 위해 가장 먼저 해야 할 일은 무엇인가요?

A: AI 생명주기 전반에 걸쳐 세밀한 실시간 텔레메트리 데이터를 수집하고, 모델 복잡성, 하드웨어 구성, 배포 지역의 맥락에서 이 데이터를 해석하는 강력한 측정 기반을 구축하는 것입니다. 또한 소프트웨어 탄소 강도(SCI) 같은 추가 지표로 기준선을 강화하고 물 사용량 같은 다른 환경 지표까지 범위를 확대해야 합니다.

해당 기사에 인용한 보고서 원문은 액센추어에서 확인 가능하다.

이미지 출처: 액센추어

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.