도구

위브 라우터

Weave Router

에이전트 코딩 도구의 모든 요청을 비용 대비 최적의 모델로 자동 라우팅하는 프록시로, 기존 예산으로 약 2배 더 많은 작업을 처리할 수 있다.

개념 설명

Claude Code, Cursor, Codex 같은 에이전트 코딩 도구를 쓰다 보면 모든 요청이 하나의 고비용 프론티어 모델로 쏟아진다. 파일 목록 조회, 단순 자동완성, 코드베이스 탐색 같은 작업까지도 Claude Sonnet이나 GPT-4o가 처리한다. Weave Router는 이 흐름 사이에 투명하게 개입하는 프록시다. 각 요청을 로컬에서 실행되는 소형 ONNX 임베더로 분석하고, 미리 정의된 인텐트 클러스터와 대조해 "이 요청은 어떤 수준의 모델이 처리할 수 있는가"를 50ms 이내에 판단한다.

실제 Claude Code 워크로드를 분석한 결과, 60~70%의 요청은 단순 구조의 짧은 완성 작업이었고, 오픈소스 모델이 프론티어 모델과 동등한 품질을 내면서 비용은 약 1/40 수준이었다. 이 요청들을 DeepSeek, Qwen, Llama, Mistral 같은 모델로 보내고, 복잡한 추론이 필요한 요청만 프론티어 모델로 전달하면 전체 비용을 40~70% 줄일 수 있다는 것이 Weave Router의 핵심 주장이다.

사용 예시

Claude Code에서 라우터 엔드포인트를 지정하는 것으로 시작한다. 클라이언트는 여전히 Anthropic API와 직접 통신하는 것처럼 동작하고, 라우터는 중간에서 투명하게 개입한다. 개발자는 기존 워크플로우를 바꿀 필요가 없다. 파일을 수정하고, 리팩토링을 요청하고, 테스트를 작성하는 매 요청이 자동으로 분류되어 비용에 맞는 모델로 전달된다.

Anthropic, OpenAI, Gemini 호환 엔드포인트를 모두 지원하므로 Claude Code 외에도 Codex CLI, opencode, Cursor에 동일하게 적용된다. 관리형 서비스를 쓰면 Anthropic, OpenAI, Gemini 청구를 하나의 Weave 잔액으로 통합할 수 있고, 셀프호스팅은 각 프로바이더 키를 직접 사용하며 비용을 완전히 제어할 수 있다.

주의할 점

라우팅 품질은 내부 벤치마크 기반이므로, 특정 도메인이나 코드베이스에서는 오픈소스 모델이 기대한 만큼 동등한 품질을 내지 못할 수 있다. 2026년 6월에 공개된 초기 서비스로, 프로덕션 환경에서의 신뢰도는 충분한 실사용 사례가 쌓이기 전까지 검증이 필요하다.

#모델 라우팅#LLM 비용 최적화#에이전트 코딩#프록시
← AI Wiki에서 더 보기
updated at 2026-07-09