네모트론 3 울트라

NVIDIA Nemotron 3 제품군에서 맨 위 등급인 오픈 모델로, 전체 550B 가운데 토큰마다 55B만 써서 같은 수준의 지능을 훨씬 빠르게 낸다. 도구를 수백 번씩 부르며 오래 도는 에이전트에서 계획, 깊은 리서치, 지휘를 빠르고 싸게 맡길 때 쓴다.

출력이 길수록 속도 차이가 커진다

코딩 에이전트는 파일을 읽고, 테스트를 돌리고, 고치는 일을 수백 번 되풀이한다. 그때마다 추론을 길게 쓰기 때문에 결국 속도와 토큰 비용이 발목을 잡는다. Ultra는 정확도는 최상위 오픈 모델과 비슷하게 맞추고, 대신 처리량을 크게 끌어올렸다.

입력 8k·출력 64k 토큰 조건에서 잰 추론 처리량. NVIDIA가 발표한 수치다.

쓰던 에이전트에 두뇌만 바꿔 끼운다

가장 빨리 써 보는 방법은 Ollama다. ollama launch claude --model nemotron-3-ultra:cloud를 실행하면 Claude Code가 이 모델로 돌아가고, OpenCode나 Hermes Agent, OpenClaw에도 같은 방식으로 붙는다. 반복 작업이 많아 토큰 비용이 걱정되는 프로젝트라면 이렇게 먼저 비교해 보면 된다.

이 모델은 먼저 추론하고 나서 답을 낸다. 추론에 쓸 토큰 양(reasoning budget)은 실행할 때 정할 수 있다. 단순한 도구 호출 단계는 예산을 줄이고 계획을 짜는 단계는 넉넉히 주면 속도와 품질을 함께 챙길 수 있다. 문서 수십 개를 한 번에 넣어 분석하거나 서브 에이전트들의 결과를 모아 판단할 때는 최대 1M 컨텍스트가 도움이 된다.

학습 데이터까지 공개된 오픈 모델

OpenMDW 라이선스로 가중치뿐 아니라 학습 데이터와 학습 방법까지 공개했다. 그래서 내 분야 데이터로 파인튜닝하거나 학습 과정을 그대로 다시 해 볼 수 있다. 처음부터 Blackwell GPU용 4비트 형식(NVFP4)으로 학습했기 때문에, 이 형식으로 서빙하면 품질 손실이 적고 메모리와 비용도 줄어든다.

개인 PC용이 아니고, 짧은 질문엔 과하다

한 번에 쓰는 건 55B지만 메모리에는 550B 전체를 올려야 한다. 직접 돌리려면 데이터센터 GPU가 여러 장 필요하다. 빠른 속도도 NVFP4와 Blackwell에 맞춘 결과라서, 다른 GPU나 BF16 가중치로 돌리면 발표만큼 나오지 않을 수 있다. 짧은 질의응답 위주라면 Super나 Nano가 비용 면에서 낫다.

오래 도는 에이전트의 지휘 모델로 쓴다

가장 흔한 방식은 코딩·리서치 에이전트의 메인 두뇌로 Ultra를 두는 것이다. 계획과 최종 판단은 Ultra가 맡고, 자주 반복되는 가벼운 단계는 Super나 Nano 서브 에이전트에 넘겨 비용을 줄인다.