텐센트 HY3

텐센트가 2026년 4월 오픈소스(Apache 2.0)로 공개한 MoE 언어 모델로, 전체 295B 파라미터 중 질문마다 21B만 깨워 써서 덩치에 비해 연산 비용이 낮다. 코딩·복잡한 추론·에이전트 작업을 직접 배포해 운영하거나 무료 API로 먼저 시험해 보고 싶을 때 쓴다.

계산은 7%만, 메모리는 전부

한 번 답할 때 실제로 계산에 쓰는 파라미터는 전체의 7% 정도다. 그래서 같은 규모의 모델을 통째로 돌리는 것보다 빠르고 싸다.

파라미터 수 기준.

다만 어떤 전문가가 불릴지 모르기 때문에 295B 전체를 메모리에 올려야 한다. 계산량이 적다고 해서 작은 GPU 한 장으로 돌릴 수 있는 모델은 아니다.

시험은 OpenRouter, 운영은 직접 배포

먼저 써 보려면 OpenRouter에서 tencent/hy3:free를 부르면 된다. OpenAI 호환 API라서 Kilo Code, Cursor 같은 코딩 도구에도 이 모델 ID만 넣으면 바로 붙는다. 무료 엔드포인트는 사용량 제한이 있을 수 있어서 시험용으로 보는 게 좋다.

데이터를 밖으로 보내면 안 되거나 사용량이 많다면 vLLM이나 SGLang으로 직접 배포한다. 모델 가중치는 Hugging Face에서 받을 수 있다.

추론 모드로 속도와 품질 조절

생각하는 깊이를 설정으로 바꿀 수 있다. 같은 모델이라도 작업에 맞춰 모드를 나누면 응답 속도와 토큰 비용을 아낄 수 있다.

성능 평가는 텐센트 기준

텐센트는 Yuanbao, CodeBuddy, WorkBuddy 같은 자체 서비스에 붙여 실제 사용자 피드백으로 모델을 다듬었다고 밝혔다. 하지만 경쟁 모델보다 낫다는 평가와 환각이 줄었다는 결과는 대부분 텐센트가 직접 발표한 것이다. 내 작업으로 직접 돌려 보고 고르는 게 가장 확실하다.

코딩 도구로 시험하고, 사내에 띄워 쓴다

가장 흔한 시작은 코딩 도구에 무료 API로 붙여 보는 것이다. 써 보고 쓸 만하면 상업 이용이 자유로운 라이선스를 살려 사내 서버에 직접 띄우고, 작업 난이도에 따라 추론 모드를 나눠 쓴다.