(씨넷코리아=윤현종 기자) 아마존웹서비스(AWS)가 파이토치로 작성한 AI 모델 코드를 자체 AI 칩 트레이니움에서 네이티브로 실행하도록 지원하는 ‘토치뉴런(TorchNeuron)’을 27일 공개했다.
토치뉴런은 파이토치에 내장된 하드웨어 등록 방식과 연결된다. 칩을 지정하는 설정을 바꾸는 방식으로 기존 코드와 테스트·디버깅·확장 도구를 활용해 새로운 하드웨어에 맞춰 코드를 재작성하는 부담을 줄이는 것이 목표다.
AWS는 동일한 학습 스크립트를 기존 칩과 트레이니움에서 실행한 시연에서 칩 지정 설정만 바꿨으며 모델이 같은 내용을 같은 속도로 학습했다고 밝혔다. 학습과 추론에 같은 하드웨어를 쓰면 추론 수요가 적은 시간대의 여유 용량을 학습에 배분할 수 있다.
도입 사례로 음성 AI 기업 카르테시아가 파이토치 코드를 최소한으로 수정해 표준 추론 파이프라인을 실행했다. 리버 뇌발달연구소는 분자동역학 시뮬레이션을 AI로 가속하거나 대체하는 전략을 토치뉴런과 트레이니움으로 검토하고 있다. 로보틱스·영상·월드 모델·자율주행·대규모 언어 모델·금융 분야에서도 개발이 진행 중이다.
토치뉴런은 파이토치의 분산 학습 프레임워크 토치타이탄과 통합된다. FSDP(완전 샤딩 데이터 병렬 처리) 방식으로 여러 트레이니움 인스턴스에 학습을 확장할 수 있고, 하드웨어를 직접 제어하는 저수준 코드 작성 도구도 제공한다.
AWS는 파이토치를 특정 칩에 종속시키는 코드를 줄이고 관련 변경을 원본 코드인 업스트림에 기여하고 있다. 허깅페이스도 AI 개발 도구에 트레이니움 네이티브 지원을 적용했다.
토치뉴런은 깃허브 ‘aws-neuron/torch-neuronx’ 저장소에서 내려받을 수 있다.
