아마존웹서비스(AWS)가 현지 시각 10월 19일 자체 AI 칩 ‘트레이니엄(Trainium)’에서 파이토치(PyTorch)를 그대로 사용할 수 있도록 지원하는 오픈소스 소프트웨어 ‘토치뉴런(TorchNeuron)’을 공개했다. 파이토치는 AI 모델을 개발하고 학습시킬 때 가장 널리 활용되는 오픈소스 개발 도구다. 토치뉴런은 아파치 2.0 라이선스로 깃허브에 공개됐으며, 10월 20일 미국 새너제이에서 개막하는 파이토치 콘퍼런스에서 공개 베타 서비스를 시작한다.
토치뉴런은 트레이니엄을 파이토치의 기본 실행 장치로 등록하는 소프트웨어다. 개발자는 기존 파이토치 코드에서 실행 장치 이름만 ‘neuron’으로 변경하면 트레이니엄2와 트레이니엄3 칩에서 모델을 학습하고 실행할 수 있다. 허깅페이스에 공개된 모델도 같은 방식으로 불러와 트레이니엄에서 구동할 수 있다. 연구와 오류 확인에 적합한 즉시 실행 방식과 실제 서비스에 적합한 최적화 실행 방식을 모두 지원하며, 여러 칩에 작업을 나눠 처리하는 분산 학습 기능도 제공한다.
AWS는 2026년 9월 기준 허깅페이스 모델 약 10만 개를 트레이니엄에서 실행하는 시험을 진행했다고 밝혔다. 시험 대상은 다운로드 수 기준으로 실제 이용 모델의 99.9%를 차지한다. 다만 일부 기능은 첫 번째 버전에서 아직 지원하지 않으며, AWS는 보완 작업을 진행하고 있다고 설명했다.
음성 인식 AI 기업 딥그램은 자체 시험에서 트레이니엄이 기존 GPU보다 1달러당 약 60% 더 많은 음성 데이터를 처리했다고 밝혔다. 음성 AI 기업 카르테시아는 파이토치 코드를 거의 수정하지 않고 기존 서비스 처리 과정을 트레이니엄에서 그대로 실행했다. 허깅페이스는 토치뉴런으로 트레이니엄이 자사 개발 도구 트랜스포머스와 디퓨저스의 기본 실행 장치가 됐다고 평가했다. 메타의 야나 판 그루넌 파이토치 엔지니어링 디렉터는 하드웨어가 달라도 동일한 개발 경험을 제공한다는 점을 높이 평가했다.
자세한 내용은 파이토치 블로그에서 확인할 수 있다.
이미지 출처: 파이토치 재단
AI Matters 뉴스레터 구독하기
