미스트랄 미디엄 3.5

프랑스 Mistral AI가 따로 내던 대화·추론·코딩 모델을 하나로 합친 플래그십 오픈 웨이트 모델이다. 작업마다 모델을 바꿔 끼우지 않고 빠른 채팅부터 오래 도는 코딩 에이전트까지 한 모델로 처리하고 싶을 때 쓰며, 가중치가 공개돼 있어 직접 띄워 쓸 수도 있다.

요청마다 추론을 켜고 끈다

API에서 reasoning_effort 값 하나로 생각의 깊이를 바꾼다. 같은 서비스 안에서 빠른 채팅은 끄고, 복잡한 질문이나 에이전트 작업은 켜면 된다. 함수 호출과 JSON 출력도 기본으로 된다.

API로 쓸지, 직접 띄울지

직접 띄울 때는 vllm serve mistralai/Mistral-Medium-3.5-128B에 Mistral 전용 도구 호출·추론 파서를 켠다. 다만 잘 갖춘 데이터센터가 아니면 GPU 4장으로 돌리기는 현실적으로 어렵다는 평가가 많다.

고르기 전에 확인할 것

토큰마다 모든 파라미터를 계산하는 구조라, 같은 하드웨어에서는 일부만 켜는 MoE 모델보다 돌리는 비용이 더 든다. 초기 설정에 긴 문맥 성능 문제가 있다가 고쳐졌으니 그 전에 만든 GGUF 변환본은 피한다. 코딩 성능 수치는 Mistral 자체 발표라, 내 작업으로 직접 시험해 보는 게 확실하다.

Le Chat과 Vibe에서 바로 쓴다

Le Chat에서는 기본 모델이라 따로 고를 필요가 없다. 새 Work 모드에서는 메일·메시지·캘린더를 오가며 회의 자료를 만들거나 답장 초안을 쓰고, 메시지 전송처럼 민감한 동작은 사용자 승인을 받는다.

코딩 에이전트 Vibe의 기본 모델이기도 하다. 원격 에이전트 기능으로 로컬에서 시작한 세션을 클라우드로 옮겨 여러 개를 동시에 돌리고, 끝나면 GitHub 풀 리퀘스트를 열어 준다. 리팩토링, 테스트 생성, 의존성 업그레이드, CI 실패 조사처럼 오래 걸리지만 지켜볼 필요가 적은 일을 맡기기 좋다. Pro, Team, Enterprise 요금제에서 쓸 수 있다.

API와 직접 서빙까지 합치면 주로 이렇게 쓴다.