미모 v2.5

샤오미가 MIT 라이선스로 공개한 오픈소스 모델 시리즈로, 100만 토큰 문맥을 다루며 몇 시간씩 도구를 부르는 코딩 에이전트를 싸게 돌릴 때 쓴다. 코딩이나 오래 도는 에이전트에는 Pro를, 이미지·영상·음성을 같이 넣어야 하면 작은 MiMo-V2.5를 고르면 된다.

두 모델 모두 최대 100만 토큰 문맥을 지원한다.

MIT 라이선스라 상업 서비스에 붙이거나 추가 학습을 해도 따로 허락받을 필요가 없다.

오래 걸리는 에이전트 작업을 싸게

샤오미가 내세우는 강점은 몇 시간짜리 자율 작업이다. 공개 시연에서 Pro는 4시간 넘게 도구를 수백 번 부르며 Rust로 컴파일러를 만들어 숨겨진 테스트를 모두 통과했다. 이런 작업은 토큰을 많이 먹는데, 샤오미는 비슷한 수준의 경쟁 모델보다 같은 일에 토큰을 40~60% 덜 쓴다고 밝혔다.

긴 문맥을 싸게 처리하는 설계 덕분이다. 대부분의 층은 가까운 문맥만 보고 소수의 층만 전체를 보게 나눠서, 긴 문맥에서 메모리를 가장 많이 잡아먹는 부분이 약 7분의 1로 줄었다.

API로 연결하는 게 가장 쉽다

샤오미 MiMo API나 OpenRouter 같은 게이트웨이로 불러서 쓰는 에이전트 도구의 모델로 연결하면 된다. 직접 띄우려면 SGLang과 vLLM이 공식 지원되고, FP8 양자화·100만 토큰 문맥·추측 디코딩·MiMo 전용 도구 호출 파서를 켜서 실행한다.

다만 Pro는 FP8로 줄여도 고성능 GPU가 여러 장 필요하다. 개인이라면 API로 쓰는 게 현실적이고, 로컬에서 실험해 보고 싶으면 작은 MiMo-V2.5부터 시작하면 된다.

UltraSpeed는 3배 값에 초고속

UltraSpeed는 1조 파라미터급 모델로는 처음 초당 1,000토큰을 넘긴 버전이다. 특수 칩 없이 일반 8-GPU 서버 한 대로 이 속도를 냈다. 신청자에게만 6월 9일부터 23일까지 시범 제공됐다.

100만 토큰을 끝까지 잘 쓰진 못한다

100만 토큰을 넣을 수 있다고 해서 그 길이를 끝까지 잘 쓰는 건 아니다. 긴 문맥 추적 시험에서 100만 토큰일 때 성능이 눈에 띄게 떨어졌으니, 중요한 정보는 요약해서 다시 넣어 주는 편이 안전하다.

성능과 토큰 효율 수치는 대부분 샤오미가 직접 발표한 것이다. 토큰 단가보다 '작업 하나를 성공시키는 데 든 토큰 수'로 직접 비교해 보는 게 맞다. 규제가 엄격한 조직에서는 중국산 모델이라는 점이 도입에 걸림돌이 될 수 있다.

코딩 에이전트의 저렴한 기본 모델로 많이 쓴다

가장 흔한 건 오래 도는 코딩 에이전트의 모델을 API로 Pro에 연결하는 방식이다. 오픈소스라 직접 서버에 띄워 사내 서비스에 붙이거나, 작은 모델로 멀티모달 작업을 실험하는 데도 쓴다.