토큰 경제학

AI가 읽고 쓰는 토큰을 돈처럼 관리하는 관점으로, 사용량을 재고 줄이고 예산을 짠다. 토큰 단가는 내려가도 에이전트가 쓰는 양이 훨씬 빠르게 늘어 청구액은 오히려 커지므로, 코딩 에이전트처럼 토큰을 많이 쓰는 작업에서 어떤 모델로 얼마나 쓰는지를 비용 항목처럼 따질 때 쓴다.

단가는 내려도 청구서는 커진다

GPT-4급 성능의 토큰 비용은 2년 만에 280배 떨어졌지만, 같은 기간 기업의 AI 지출은 오히려 320% 늘었다. 싸지니까 더 많이 쓰게 됐고, 에이전트가 쓰는 양이 단가 하락분을 넘어선 것이다.

에이전트는 대화가 길어질수록 앞의 맥락을 매번 다시 보내기 때문에 긴 세션일수록 비용이 빨리 쌓인다. 젠슨 황 엔비디아 CEO가 GTC 2026에서 "연봉 7억 원짜리 엔지니어라면 3.5억 원어치 토큰은 써야 한다"고 말한 것도 토큰을 인건비처럼 보는 시각을 보여 준다.

먼저 재고, 그다음 줄인다

Claude Code에서는 /cost로 세션별 소비량을 보고, ccusage 같은 도구로 일별·월별 사용량과 예상 비용을 추적한다. 다 끝난 작업이면 /clear로 새로 시작하고, 계속 이어 가야 하면 /compact로 맥락을 요약해 다시 보내는 토큰을 줄인다. 실제 서비스에서는 아래 기법을 함께 쓴다.

절감률은 흔히 알려진 범위이며, 작업 종류와 제공사에 따라 다르다.

토큰을 아끼는 도구가 살아남는다

Steve Yegge는 Software Survival 3.0에서 이 논리를 소프트웨어 생태계 전체로 넓힌다. 추론에는 토큰이, 토큰에는 에너지가, 에너지에는 돈이 든다. 그래서 에이전트가 쓸 때 토큰을 아껴 주는 도구는 선택받고, 토큰을 낭비하게 만드는 도구는 밀려난다는 것이다.

싸게만 하면 품질이 무너진다

싼 모델로만 보내면 정확도가 떨어지고, 프롬프트를 지나치게 줄이면 필요한 맥락이 빠진다. 실패해서 다시 돌리면 결국 토큰을 더 쓰게 된다. 토큰당 가격보다 성공한 작업 하나당 비용을 기준으로 따지는 게 맞다.

개인은 세션 관리, 팀은 예산과 라우팅

개인 개발자는 코딩 에이전트를 쓸 때 세션 단위로 비용을 확인하는 데 주로 쓴다. 팀이나 AI 기능을 넣은 서비스에서는 모델 선택과 월 예산을 정하는 기준으로 쓴다.