[연구]초파리 뇌 신경망을 LLM에 연결했더니 효과 없었다
초파리의 전체 뇌 커넥톰(신경망 지도)을 1.2B 규모의 언어 모델에 직접 연결한 'Fly Language Model(FLM)' 연구가 공개되었습니다. 하지만 대조군 실험 결과, 생물학적 신경망 구조를 연결하는 것이 언어 모델 성능 향상에 실질적인 도움이 되지 않는 것으로 나타났습니다.
전문 읽기접기
무슨 일이야
연구진은 초파리의 'MaleCNS' 커넥톰에서 추출한 16만 6,700개의 뉴런과 2,560만 개의 시냅스 연결(edge) 데이터를 토큰 임베딩과 연동한 'FLM(Fly Language Model)'을 구축했습니다. 이 구조는 고정(frozen)된 LFM2.5-1.2B-Instruct 모델 위에 생물학적 신경망 기반의 보정값을 더하는 방식이며, 학습에 사용된 파라미터는 27만 8,528개에 불과합니다.
프리프린트 논문에 따르면 기본 백본 모델 대비 토큰당 0.0222 nat의 성능 개선을 기록했습니다. 하지만 그래프 구조를 배제하고 파라미터 수만 맞춘 대조군(control)과 비교한 결과, 모든 시드(seed) 실험에서 그래프가 없는 대조군이 오히려 약간 더 나은 성능을 보였습니다.
왜 중요해
실제 생물학적 뇌의 복잡한 연결망 구조를 인공신경망에 이식해 언어 처리 능력을 높이려는 흥미로운 시도였으나, 단순히 생물학적 배선을 모사해 붙이는 것만으로는 성능 이점을 얻기 어렵다는 점이 실험적으로 확인되었습니다. 자연계의 뇌 구조를 인공지능 아키텍처에 접목하려는 뉴로모픽 및 생체 모사 연구 접근법에 중요한 참고 자료가 될 것으로 보입니다.
짚고 넘어갈 점
해당 연구의 코드는 MIT 라이선스로 공개되어 로컬 환경에서 직접 실행해 볼 수 있습니다. 다만 이번 실험은 초파리 커넥톰을 고정된 소형 LLM(1.2B)에 보정보조 형태로 얹은 특정 구조에 한정된 결과이므로, 다른 뇌 구조나 학습 방식에서도 동일한 결론이 나올지는 추가 연구를 지켜볼 필요가 있습니다.
참고: MarkTechPost
댓글 0
첫 댓글을 남겨보세요.