NVIDIA가 만든 오픈 모델 제품군으로, 가중치뿐 아니라 학습 데이터와 학습 레시피까지 공개해 누구나 AI 에이전트를 직접 만들고 튜닝할 수 있게 한 모델이다.
대부분의 강력한 LLM은 '블랙박스'다. 모델을 쓸 수는 있어도 어떤 데이터로 어떻게 학습됐는지는 회사 안에만 있다. Nemotron은 그 반대로 가는 NVIDIA의 오픈 모델 제품군이다. 모델 가중치는 물론이고, 학습에 쓴 데이터셋과 학습 레시피까지 Hugging Face에 공개해서, 배포 전에 직접 들여다보고 검증할 수 있게 한 게 핵심이다.
GPU를 파는 회사가 왜 모델을 무료로 푸느냐는 질문이 나오는데, NVIDIA의 의도는 단순하다. 누구나 자기 GPU 위에서 돌릴 좋은 오픈 모델이 많아질수록 GPU가 더 팔린다. 그래서 Nemotron은 처음부터 'AI 에이전트를 만들기 위한 출발점'을 표방하며, 추론·도구 호출·멀티모달 같은 에이전트 작업에 초점을 맞춘다.
크기별로 나뉘어 있어 용도에 맞게 고른다. 가장 가벼운 Nano는 엣지나 로컬에서 돌릴 수 있고, 중형 Super는 추론과 도구 호출에서 효율이 높아 멀티 에이전트에 쓰며, 최상위 Ultra는 550B 규모의 MoE로 오래 도는 장시간 에이전트를 노린다. 다른 폐쇄형 모델 API에 의존하지 않고 자체 인프라에서 에이전트를 돌리고 싶을 때, 또는 특정 도메인에 맞춰 파인튜닝하고 싶을 때 고르는 선택지다.
배포가 쉽다는 점도 실제로 채택되는 이유다. vLLM, SGLang, Ollama, llama.cpp 같은 익숙한 오픈 프레임워크로 그대로 올릴 수 있어서, 클라우드든 온프레미스든 엣지든 같은 모델을 옮겨 다니며 쓸 수 있다.
2024년 2월 Nemotron-4 15B 논문으로 시작해, 같은 해 6월 공개된 Nemotron-4 340B는 다른 모델 학습에 쓸 합성 데이터 생성을 정면으로 내세워 화제가 됐다. 2025년에는 Meta의 Llama 위에 NVIDIA가 추가 학습을 얹은 Llama-Nemotron이 나왔고, 최신 Nemotron 3 세대는 하이브리드 Mamba-Transformer MoE 구조로 100만 토큰 컨텍스트를 지원하면서 추론 속도와 비용 효율을 끌어올렸다.