[모델]28MB RAM으로 돌아가는 45M 툴 호출 모델 'Needle 2' 공개

무슨 일이야

Cactus Compute가 툴 호출(Tool-Calling)과 기기 제어, 구조화된 데이터 추출에 특화된 오픈 모델 'Needle 2'를 선보였습니다.

Needle 2의 매개변수 크기는 45M에 불과하며, 전체 모델이 14MB 단일 바이너리 형태로 제공됩니다. GPU나 NPU 같은 전용 가속기가 없는 하드웨어 환경을 목표로 설계되었으며, 약 28MB의 RAM만 있으면 전체 세션 구동이 가능합니다.

이 모델은 초경량 크기임에도 불구하고 툴 호출 벤치마크인 'Seal-Tools'의 두 가지 평가 항목(splits) 모두에서 선두를 기록했습니다.

왜 중요해

서버급 하드웨어나 고성능 칩셋 없이도 엣지 디바이스나 초저사양 환경에서 로컬 툴 호출 기능을 구현할 수 있는 길이 열렸습니다. 28MB 수준의 메모리 점유율을 자랑하기 때문에 임베디드 기기나 백그라운드 프로세스에서도 부담 없이 에이전트 기능을 탑재할 수 있을 것으로 보입니다.

참고: MarkTechPost