구글이 현지 시각 10월 20일 파이토치 콘퍼런스 2026에서 자사 AI 칩 TPU용 파이토치 실행 도구 ‘토치TPU(TorchTPU)’를 오픈소스로 공개했다. TPU는 구글이 AI 연산용으로 직접 설계한 반도체다. 파이토치는 메타가 2016년 개발해 현재 리눅스 재단이 관리하는 AI 개발 도구다. 테크크런치는 일부 추산을 인용해 AI 앱의 85%가 파이토치를 사용한다고 전했다.

토치TPU를 사용하면 개발자는 기존 파이토치 코드를 거의 수정하지 않고 TPU에서 실행할 수 있다. 구글은 메타 파이토치팀과 토치TPU를 공동 개발했으며, 메타는 대형 언어 모델과 광고, 추천 시스템 작업에 토치TPU를 사용하고 있다. 허깅페이스의 AI 모델 라이브러리 ‘트랜스포머’에서는 설정값 하나만 지정하면 TPU에 모델을 배포할 수 있다. AI 모델이 답변을 빠르게 생성하도록 돕는 오픈소스 도구 vLLM과 SGLang도 토치TPU 기반 실행을 지원한다.

구글은 최신 TPU ‘아이언우드’를 최대 8,192개 연결한 학습에서도 처리 속도가 칩 수에 거의 비례해 증가했다고 밝혔다. 기존 앱을 TPU와 구글 클라우드로 이전하고 그 과정에서 발생하는 오류를 수정하도록 돕는 ‘TPU 에이전트 스위트’도 미리보기로 공개했다. 스마트폰과 노트북에서 AI를 실행하는 도구 ‘라이트RT’는 파이토치 모델을 함수 호출 한 번으로 변환하도록 개선됐다.

아마존은 하루 앞선 10월 19일 자사 AI 칩 트레이니엄에서 파이토치를 사용할 수 있는 ‘토치뉴런’을 공개했다. 테크크런치는 두 기업이 엔비디아 GPU 중심의 AI 개발 생태계를 자사 칩으로 확장하려 한다고 평가했다. 다만 테크크런치는 개발자들이 엔비디아 하드웨어를 곧바로 대거 이탈하지는 않을 것으로 전망했다.

자세한 내용은 구글 클라우드 블로그에서 확인할 수 있다.

▶︎ 관련 기사: 아마존, 트레이니엄 칩에서 파이토치 바로 쓰는 ‘토치뉴런’ 공개

이미지 출처: 구글