Mercury는 Inception Labs가 만든 디퓨전 LLM(dLLM)으로, GPT나 Claude처럼 왼쪽부터 한 토큰씩 쓰지 않고 답 전체를 한꺼번에 다듬어 내서 같은 GPU에서도 훨씬 빠르다. 실시간 자동완성, 음성 에이전트, 대량 반복 호출처럼 속도와 비용이 중요한 작업에 쓴다.
| 방식 | 글을 쓰는 법 | 특징 |
|---|---|---|
| 자기회귀 (GPT, Claude 등) | 왼쪽부터 한 토큰씩 순서대로 | 답이 길수록 오래 걸림 |
| 디퓨전 (Mercury) | 뿌연 초안을 깔고 여러 번에 걸쳐 한꺼번에 또렷하게 | 여러 토큰을 동시에 정해 빠름 |
답이 길어져도 앞 토큰이 끝나기를 기다리며 하나씩 쌓을 필요가 없다는 점이 보통 LLM과 가장 크게 다르다. 그래서 답이 길수록, 호출이 잦을수록 속도 차이가 더 크게 느껴진다.
이미지 생성에서 쓰던 디퓨전 방식을 텍스트에 가져온 모델이다. 처음에는 코드 생성 모델로 나왔고, 상용 규모로는 세계 첫 dLLM이라 화제가 됐다. 이후 추론 능력을 더한 후속 모델이 나왔다.
| 모델 | 출시 | 특징 |
|---|---|---|
Mercury Coder | 2025년 초 | 코드 생성 특화 |
Mercury 2 | 2026년 2월 | 추론 추가, H100에서 초당 1,000토큰 넘음 |
Mercury 2는 이렇게 빠르면서도 답변 품질은 비슷한 속도대의 경쟁 모델과 견줄 만하다.
platform.inceptionlabs.ai에서 API 키를 받아 호출한다. API 형식이 일반 챗 모델과 비슷해서, 기존 코드에서 모델 이름만 바꾸면 쉽게 붙일 수 있다.
텍스트 디퓨전은 자기회귀 방식만큼 오래 다듬어진 기술이 아니어서 아직 검증 중이다. 아주 길고 복잡한 추론이나 미묘한 뉘앙스가 중요한 작업에서는 최상위 프론티어 모델만 못할 수 있다. 속도와 비용이 결정적이면 Mercury를 쓰고, 품질이 먼저라면 실제 작업으로 직접 비교해 보고 고르는 게 좋다.
응답이 거의 즉각적이고, 호출 횟수가 많을수록 속도와 토큰당 비용 차이가 그대로 쌓인다. 이런 자리에 쓰면 효과가 크다.
| 이럴 때 | 왜 잘 맞나 |
|---|---|
| 코드 자동완성 | 타이핑하는 동안 실시간으로 제안을 띄운다 |
| 음성 에이전트 | 말이 끝나자마자 대답해야 한다 |
| 수만 건 문서 정보 추출 | 대량 반복이라 시간·요금이 크게 준다 |
| 에이전트 도구 호출 루프 | 빠른 모델로 여러 번 생각하는 서브에이전트에 맞다 |
흔한 방식은 앱 전체를 바꾸지 않고, 기다림이 거슬리거나 호출이 몰리는 단계에만 모델 이름을 Mercury로 바꿔 넣는 것이다. 깊게 판단해야 하는 단계는 기존 프론티어 모델에 그대로 두면 속도와 품질을 함께 챙길 수 있다.