Alibaba Cloud가 만들어 가중치를 공개한 오픈 웨이트 LLM 시리즈로, 대부분 Apache 2.0 라이선스라 상업적으로도 무료로 받아 내 컴퓨터나 서버에서 돌릴 때 쓴다. 노트북용 소형부터 서버용 대형까지 크기가 다양하고, 코딩·이미지 이해·음성 같은 특화 모델도 따로 있다.
| 변형 | 이럴 때 쓴다 |
|---|---|
| Qwen (기본) | 대화, 문서 요약, 일반 업무 |
| Qwen-Coder | 코드 생성, 코딩 도구 백엔드 |
| Qwen-VL | 이미지·문서 사진 이해 |
| Qwen-Math | 수학 풀이 |
| Qwen-TTS | 음성 합성 (한국어 포함) |
중국어와 영어를 중심으로 여러 언어를 잘 다룬다.
가장 쉬운 방법은 웹 채팅(Qwen Chat)에서 바로 써 보는 것이다. 내 PC에서 돌리려면 Ollama에서 ollama run qwen3처럼 한 줄로 실행하면 된다. 서버에 올려 여러 사람이 쓰게 하려면 Hugging Face에서 모델을 받아 vLLM으로 vllm serve Qwen/Qwen3-8B처럼 띄운다.
직접 운영하기 번거로우면 Alibaba Cloud의 API로 부를 수도 있다. OpenAI 방식과 호환되는 주소를 제공해서, 기존 코드의 주소와 모델 이름만 바꿔 연결할 수 있다.
크기가 클수록 똑똑하지만 메모리가 많이 든다. 먼저 작은 모델로 시작해 품질이 부족할 때 한 단계씩 올리는 게 비용을 아끼는 방법이다. Qwen3에는 전체는 크지만 답할 때 일부만 쓰는 MoE 모델도 있어, 큰 모델 치고 빠르다.
| 크기 | 어디서 | 맞는 작업 |
|---|---|---|
| 소형 (수십억 미만) | 노트북, 휴대기기 | 분류, 간단한 추출 |
| 중형 (8B~32B) | GPU 한 장 | 사내 챗봇, 코딩 보조 |
| 대형 MoE | 여러 GPU 서버 | 어려운 추론, 긴 문서 분석 |
Qwen3는 한 모델 안에서 깊게 생각하는 모드와 바로 답하는 모드를 오갈 수 있다. 수학·디버깅처럼 어려운 질문은 생각 모드를 켜고, 번역이나 짧은 답은 끄면 응답이 빨라지고 토큰도 덜 쓴다. 대화 중에는 프롬프트에 /think, /no_think를 붙여 바꿀 수 있다.
| 모델 | 만든 곳 | 라이선스 |
|---|---|---|
| Qwen | Alibaba | 대부분 Apache 2.0 |
| Llama | Meta | 자체 커뮤니티 라이선스 |
| DeepSeek | DeepSeek | 대부분 MIT |
주의할 점도 있다. 모델마다 라이선스가 다를 수 있어 상업용이면 모델 페이지에서 꼭 확인한다. 정치적으로 민감한 주제는 답을 피하는 경향이 있고, 한국어 품질은 작은 모델일수록 떨어진다. 데이터를 밖으로 보내면 안 되는 일이라면 API 대신 직접 설치해 쓰는 편이 안전하다.
가장 흔한 건 데이터를 밖으로 보내지 않고 내 장비에서 돌리는 기본 모델로 쓰는 방식이다. 크기가 다양하고 라이선스가 자유로워서, 직접 학습시키는 출발점으로도 많이 고른다.
| 어디서 | 어떻게 쓰나 |
|---|---|
| 개인 PC | Ollama로 소형·중형 모델을 띄워 인터넷 없이 요약·번역·코드 질문 |
| 사내 챗봇·문서 검색 | vLLM으로 서버에 올리고, 외부로 내보내면 안 되는 사내 문서를 답변 근거로 연결 |
| 코딩 도구 | Qwen-Coder를 코딩 보조·에이전트의 백엔드로 두고 코드 생성과 수정에 사용 |
| 파인튜닝 | Hugging Face에서 받은 모델을 내 데이터로 추가 학습해 특정 업무용 모델로 만듦 |