큐원3.8 플래시 넥스트

알리바바 Qwen 팀이 다음 세대 Qwen4의 구조를 먼저 공개한 오픈 웨이트 멀티모달 MoE 모델이다. 전체 125B 가운데 토큰마다 6B만 활성화돼서, 코딩 에이전트나 도구 호출 작업을 싸게 돌리거나 내 장비에서 직접 실행할 때 쓴다. 이름의 'Next'는 더 큰 Flash라는 뜻이 아니라 구조 미리보기라는 표시이고, 설치 없이 API로 쓰려면 이 모델을 바탕으로 만든 Qwen3.8-Flash를 고르면 된다.

API 가격은 100만 토큰 기준이다.

덩치는 크지만 실제로 일하는 건 일부

모델 전체는 크지만 토큰 하나를 만들 때는 일부 전문가만 움직여서 연산량은 작은 모델과 비슷하다. 학습 비용도 이전 상위 모델인 Qwen3.7-Plus의 약 1/9 수준인데, 코딩과 사무 작업 성능은 더 낫다고 Qwen 팀은 밝혔다. 큰 단어 조각 표는 자주 읽지 않아서 느린 RAM이나 SSD로 빼 둘 수 있다. 그래서 GPU 메모리가 넉넉하지 않은 PC에서도 실행할 수 있다.

로컬은 GGUF·Ollama, 운영은 vLLM·SGLang

개인 장비라면 Ollama 라이브러리의 qwen3.8-flash-next나 Unsloth GGUF 양자화본을 쓰는 게 가장 빠르다. Unsloth 기준으로 RAM 약 75GB에서 돌아간다. 여러 사용자에게 서비스하거나 처리량이 중요하면 공식 문서가 권하는 SGLang, KTransformers, vLLM 같은 전용 서빙 엔진을 쓴다.

생각 설정은 에이전트에 맞춰 조절

enable_thinking으로 추론을 켜고 끄고, reasoning_effort로 생각하는 강도를 정한다. 기본값인 preserve_thinking은 이전 턴의 사고 과정을 계속 남겨 둔다. 여러 턴에 걸쳐 판단을 일관되게 유지해야 하는 에이전트에 유리하고, KV 캐시도 더 잘 재사용된다. 공식 문서는 여러 단계짜리 작업에서 추론 강도를 낮추면 오히려 실패와 재시도가 늘어 전체 시간과 토큰이 더 들 수 있다고 경고한다.

양자화본과 벤치마크 점수는 다를 수 있다

발표된 성능 수치는 대부분 Qwen 팀이 직접 측정한 것이고, 독립 검증은 아직 진행 중이다. 내 장비에 맞게 줄인 양자화본이 공개 점수만큼 나온다는 보장도 없다. 생각을 길게 하는 편이라 출력 토큰이 늘어나기 쉬우니, 실제로 맡길 작업으로 속도와 비용을 직접 재 보는 게 좋다.

직접 띄운 에이전트의 두뇌로 주로 쓴다

가장 흔한 건 내 장비나 사내 서버에 직접 올린 코딩 에이전트의 기본 모델로 두는 방식이다. 코드와 문서를 외부로 보내지 않아도 되고, 활성 파라미터가 작아 오래 도는 작업도 부담이 덜하다.