[모델]144M 오픈 의사결정 모델 'Julia 1' 공개

무슨 일이야

Supersonic Labs가 경량 의사결정 모델인 'Julia 1'을 공개했습니다. 이 모델은 mmBERT-small을 기반으로 제작된 144.3M 파라미터 크기의 소형 모델로, 고가의 GPU 없이 일반 CPU 환경에서도 구동되도록 설계되었습니다. 오픈소스 라이선스인 Apache 2.0으로 배포되어 누구나 자유롭게 활용할 수 있습니다.

작동 방식은 직관적입니다. 모델에 배경 맥락(context)과 질문, 그리고 2개에서 최대 20개의 선택지(option)를 입력하면 각 보기의 확률과 함께 최종 선택지 하나를 결과로 출력합니다.

성능 평가에서는 4개의 파일럿 테스트 중 3개에서 Jev 기준 수치를 앞섰습니다. 다만 72개의 라벨을 분류해야 하는 Banking77 테스트에서는 기준치에 미치지 못하는 결과를 보였습니다.

왜 중요해

복잡하고 무거운 거대언어모델(LLM)을 쓰지 않고도 간단한 다지선다형 의사결정이나 라우팅 작업을 처리할 수 있는 초경량 대안이 나왔다는 점이 반갑습니다. 특히 CPU 구동이 가능하고 Apache 2.0 라이선스로 풀려 인프라 비용 부담이 큰 환경이나 엣지 디바이스에서도 쉽게 통합해 테스트해 볼 수 있습니다.

짚고 넘어갈 점

선택지가 적은 대부분의 파일럿에서는 좋은 성능을 냈지만, Banking77처럼 라벨 수가 72개에 달하는 고난도 다중 분류 작업에서는 성능이 뒤처지는 한계를 보였습니다. 선택지 수가 많거나 세밀한 도메인 분류가 필요한 환경에서는 한계가 있을 수 있어 적용 전 작업 성격에 맞는지 검증이 필요해 보입니다.

참고: MarkTechPost