콜리브리

콜리브리는 독일 Aleph Alpha가 다른 회사 기반 모델 없이 유럽에서 처음부터 학습한 영어·독일어 MoE 오픈 웨이트 모델로, 가중치 전체가 Apache 2.0으로 공개됐다. 데이터를 미국이나 중국 클라우드로 보낼 수 없는 공공 행정·산업·항공우주 분야에서 자기 서버나 완전 오프라인 환경에 직접 올려 쓸 때 쓴다.

2026년 10월 3일에 공개됐다.

계산은 가볍지만 메모리는 전체 크기만큼 든다

MoE 구조라서 토큰 하나를 처리할 때는 일부 전문가만 일한다. 그래서 답이 빨리 나오고 서빙 비용도 낮다. 다만 전문가 가중치를 모두 GPU에 올려 둬야 하므로, FP8 가중치 기준으로 GPU 메모리가 약 78GB 필요하다.

토큰 하나를 처리할 때 실제로 쓰는 파라미터 수. 콜리브리 쪽이 약 8배 적다.

vLLM 플러그인을 깔고 띄운다

Hugging Face에서 Aleph-Alpha/Kolibri-1을 받아 vLLM으로 서빙한다. 전용 플러그인이 필요해서 pip install "aleph-alpha-inference>=1.0"으로 패키지를 설치하거나 컨테이너 이미지 ghcr.io/aleph-alpha/aleph-alpha-inference를 쓴다. 이 패키지를 설치하면 맞는 vLLM 버전도 함께 깔린다. 추론과 도구 호출을 켜려면 vllm serve에 --reasoning-parser kolibri1, --tool-call-parser kolibri1, --enable-auto-tool-choice를 붙이고, --kv-cache-dtype fp8로 KV 캐시 메모리를 줄인다.

수학·독일어는 강하고 에이전트 작업은 약하다

비슷한 크기의 MoE 오픈 모델과 비교하면 강점과 약점이 분명하다. 독일어 문서 분석이나 계산이 많은 작업에는 잘 맞지만, 도구를 여러 번 주고받는 에이전트라면 다른 모델과 꼭 비교해 봐야 한다.

성능 수치는 회사 발표 기준

점수는 대부분 Aleph Alpha가 직접 고른 비교 대상으로 발표한 것이다. 활성 파라미터가 8배 많은 덴스 모델 큐원3.8 27B는 영어와 독일어 모두에서 콜리브리보다 점수가 높다. 그래서 '서빙 비용 대비 품질'이라는 주장은 이 차이를 감안해서 읽어야 한다. 공공 행정·항공우주용 자체 평가에서는 이전 모델보다 크게 나아졌다고 하니, 실제로 맡길 업무 데이터로 직접 시험해 보는 것이 가장 확실하다.

밖으로 못 내보내는 독일어 문서를 사내에서 처리한다

가장 잘 맞는 건 외부 API를 쓸 수 없는 조직의 내부 서버에 올려 두고 독일어·영어 문서를 다루는 방식이다. 도구를 여러 번 주고받는 에이전트보다는 문서를 읽고 분석하거나 계산하는 일에 맡기는 편이 낫다.