[도구]AWS, 파이토치 모델을 트레이니움으로 옮기는 '토치뉴런' 공개
아마존웹서비스(AWS)가 파이토치 기반 AI 애플리케이션을 자사 전용 칩인 트레이니움(Trainium)으로 손쉽게 이전할 수 있는 도구 '토치뉴런(TorchNeuron)'을 발표했습니다. 개발자는 코드 재작성 없이 설정 한 줄만 바꾸면 기존 모델을 트레이니움에서 구동할 수 있습니다. 엔비디아와 CUDA 중심의 파이토치 생태계 의존도를 낮추고 자사 클라우드로 AI 스타트업을 끌어들이려는 행보입니다.
전문 읽기접기
무슨 일이야
AWS가 파이토치(PyTorch)로 작성된 AI 애플리케이션을 자사 AI 칩인 트레이니움으로 쉽게 옮길 수 있도록 돕는 도구 '토치뉴런'을 선보였습니다. AWS에 따르면 전체 AI 앱의 약 85%가 파이토치로 개발되고 있는데, 토치뉴런을 쓰면 코드 전체를 다시 짤 필요 없이 단 한 줄의 설정 변경만으로 트레이니움에서 앱을 실행할 수 있습니다.
토치뉴런은 파이토치를 기반으로 만들어져 기존 파이토치 개발자라면 별도의 학습 없이 바로 다룰 수 있습니다. AWS 산하 안나푸르나 랩스(Annapurna Labs)의 콜린 브레이스(Colin Brace) 부사장은 음성 AI 기업 딥그램(Deepgram)을 예로 들며, 네이티브 파이토치 지원을 통해 트레이니움으로 이전한 뒤 동일 비용 대비 70% 더 많은 오디오를 처리하고 있다고 밝혔습니다.
아마존은 단순히 도구를 제공하는 데 그치지 않고, 파이토치 오픈소스 메인 프로젝트에도 직접 기여하겠다고 밝혔습니다. 파이토치가 특정 칩에 얽매이지 않도록 프레임워크 자체에서 하드웨어 종속적인 코드를 걷어내는 업스트림 변경 작업을 커뮤니티와 함께 진행해, 프레임워크 전반을 하드웨어 중립적으로 만들겠다는 계획입니다.
왜 중요해
그동안 엔비디아는 자사 소프트웨어 인프라(CUDA)를 파이토치에 긴밀하게 통합해 사실상 AI 개발 하드웨어의 기본 표준 자리를 지켜왔습니다. 아마존이 설정 한 줄로 자사 칩 이전이 가능하도록 진입 장벽을 낮추고 프레임워크의 엔비디아 의존도를 줄이려 시도함에 따라, 개발자 입장에서는 특정 하드웨어 락인에서 벗어나 인프라 선택권을 넓힐 수 있는 계기가 될 수 있습니다.
짚고 넘어갈 점
파이토치의 본래 강점은 복잡한 하드웨어 최적화 문제를 프레임워크 뒤로 숨겨주는 데 있습니다. 특정 하드웨어 결합을 느슨하게 푸는 과정이 실제로 개발자에게 비용 절감과 폭넓은 선택권으로 이어질지, 아니면 다양한 칩 환경을 맞추느라 설정과 최적화 부담만 가중시킬지는 실제 도입 사례를 더 지켜볼 필요가 있습니다.
참고: TechCrunch
댓글 0
첫 댓글을 남겨보세요.