[모델]오픈소스 멀티모달 모델 Apertus 1.5 공개
오픈소스 진영의 Apertus 1.5 모델 가중치(8B 및 70B)가 아파치 2.0 라이선스로 공개되었습니다. 기존 1.0 모델에 멀티모달 이해, 추론을 위한 씽킹 모드, 최대 26만 토큰의 긴 컨텍스트 윈도우가 추가되었습니다.
전문 읽기접기
무슨 일이야
Apertus 1.5는 1세대 모델을 기반으로 추가 사전학습을 거친 버전입니다. 8B 모델에는 4조 토큰, 70B 모델에는 2조 토큰의 텍스트 및 멀티모달 데이터를 추가해 각각 총 19조, 17조 토큰으로 학습을 마쳤습니다. 가중치뿐만 아니라 학습 데이터, 가치 기준, 훈련 세부 정보까지 모두 공개되었습니다.
이번 버전은 별도의 비전 인코더 대신 얼리 퓨전(early-fusion) 방식을 도입해 이미지와 오디오를 이산 토큰으로 변환해 처리합니다. 이미지는 Emu3.5 토크나이저(512×512 기준 1,024개 토큰), 오디오는 WavTokenizer(초당 40개 토큰)를 사용해 어휘집만 확장하는 구조를 택했습니다. 이 덕분에 모델 구조 변경 없이 텍스트 전용 속도로 학습되었으며, 결과물은 텍스트 형태로만 생성됩니다.
기능적으로는 프롬프트에 맞춰 생각을 정리한 뒤 답변하는 '씽킹 모드'가 도입되었고, 컨텍스트 길이는 이전 대비 4배 늘어난 262,144토큰으로 확장되었습니다. 또한 명령어 수행 능력과 외부 API 및 도구 활용 기능도 함께 개선되었습니다.
왜 중요해
완전한 오픈 가중치 모델(Apache 2.0) 생태계에서 이미지와 음성을 네이티브 수준으로 이해하는 선택지가 늘어났습니다. 벤치마크상 Apertus 1.5 8B는 동급 오픈 가중치 모델 대비 다국어와 명령어 수행에서 우수한 결과를 보였으며, 번역 벤치마크에서는 일부 상용 모델 이상의 성적을 기록하기도 했습니다. 데이터 출처와 평가 환경 전체를 공개해 재현성과 투명성을 높인 점도 개발자와 연구자들에게 의미가 있습니다.
짚고 넘어갈 점
음성 언어 처리 기능은 아직 실험적 단계에 머물러 있으며, 이미지나 오디오를 이해할 수는 있지만 출력은 오직 텍스트로만 가능합니다. 또한 최전선(frontier) 오픈 가중치 모델들과 비교하면 전반적인 성능에서 여전히 격차가 존재합니다.
참고: Hugging Face
댓글 0
첫 댓글을 남겨보세요.