📰 AI뉴스#AI뉴스
[도구]엔비디아, 쿠버네티스 GPU 오케스트레이션 도구 'Run:ai' 오픈소스 공개
방앗간지기10.19 0
엔비디아가 쿠버네티스 기반 GPU 오케스트레이션 플랫폼인 Run:ai를 아파치 2.0 라이선스로 전면 오픈소스화했습니다. 핵심 스케줄러인 KAI를 비롯해 GPU 분할 할당, 할당량 관리 등 핵심 기능이 모두 포함되었습니다. GPU 인프라를 직접 운영하는 팀들의 클러스터 관리 부담이 크게 줄어들 것으로 보입니다.
전문 읽기접기
무슨 일이야
엔비디아가 자사의 쿠버네티스 GPU 오케스트레이션 플랫폼인 Run:ai 전체를 아파치 2.0(Apache 2.0) 라이선스로 공개했습니다.
이번 오픈소스 릴리스에는 핵심 스케줄링을 담당하는 KAI Scheduler를 비롯해, 쿠버네티스 환경에서 GPU 자원을 쪼개 쓸 수 있는 CUDA 13.4 기반 GPU 분할(GPU fractioning) 기능과 쿼터(quota) 관리 기능이 포함되었습니다.
또한 개발자가 로컬 환경에서 손쉽게 테스트해볼 수 있도록 Kind 기반의 로컬 개발 환경도 함께 제공됩니다.
왜 중요해
그동안 대규모 GPU 클러스터를 운영하는 AI 인프라 엔지니어들에게 GPU 자원의 세밀한 분할과 공정한 할당은 큰 과제였습니다. 엔비디아가 상용 수준의 오케스트레이션 솔루션을 관대한 오픈소스 라이선스로 풀면서, 자체 인프라를 구축하려는 팀들의 비용 절감과 운영 효율 개선에 실질적인 도움이 될 전망입니다.
참고: MarkTechPost
댓글 0
첫 댓글을 남겨보세요.