퓨샷

프롬프트에 원하는 입력과 출력의 잘 된 예시 몇 개를 넣어, 모델이 그 패턴을 따라 답하게 만드는 기법이다. 지시문을 길게 쓰거나 파인튜닝을 하지 않고 답의 형식·어조·기준을 빠르게 맞출 때 쓰며, 모델은 그대로 두고 예시만으로 답이 달라진다.

모델은 정답보다 형식을 배운다

연구에 따르면 예시의 정답 라벨을 무작위로 바꿔도 성능이 거의 떨어지지 않았다. 모델이 예시에서 주로 배우는 건 어떤 답이 가능한지, 입력이 어떤 모양인지, 답을 어떤 형식으로 쓰는지다.

그래서 함정도 있다. 예시가 모두 세 줄이면 모델도 세 줄로 답하려 하고, 예시가 전부 '긍정'이면 애매한 입력도 긍정 쪽으로 기운다. 예시 순서나 마지막 예시도 결과를 흔든다. 개수보다 어떤 예시를 고르느냐가 중요하다.

예시는 3~5개, 닮게·고르게·분리해서

Anthropic 가이드는 예시를 3~5개 넣고 아래 세 가지를 지키라고 권한다. 예를 들어 고객 문의를 '환불·배송·계정'으로 나눈다면 깔끔한 문의만 넣지 말고, 두 분류에 걸친 문의, 욕설 섞인 문의, 어디에도 안 맞는 문의도 하나씩 넣는다.

JSON처럼 출력 형식이 정해져 있다면 예시도 똑같은 형식으로 써야 모델이 쓸데없는 문장을 덧붙이지 않는다. 예시는 시스템 프롬프트에 넣어도 되고, 대화 기록에 질문과 모범 답변을 주고받은 것처럼 끼워 넣어도 된다. 예시를 만들기 어렵다면 초안을 주고 모델에게 더 만들게 해도 된다. 어느 방법을 쓰든 예시를 넣었을 때와 뺐을 때를 비교해서 정말 나아졌는지 확인한다.

코딩 에이전트와 비용 줄이기

CLAUDE.md에 실제 커밋 메시지를 두세 개 붙여 두면, 규칙을 글로 적을 때보다 에이전트가 형식을 훨씬 꾸준히 지킨다. 예시가 길면 요청할 때마다 같은 토큰 값을 다시 내야 한다. 그러니 고정된 예시는 프롬프트 앞쪽에 두고 프롬프트 캐싱을 걸어 두면 비용이 줄어든다.

요청마다 예시를 바꿔 넣는 동적 퓨샷도 있다. 잘 처리된 과거 사례를 벡터 DB에 쌓아 두고, 새 질문과 가장 비슷한 사례를 찾아 넣는 방식이다. LangChain에서는 SemanticSimilarityExampleSelector가 이 일을 한다. 고정된 예시를 쓸 때보다 정확도가 오르기 쉽다.

추론 모델에는 형식만 보여준다

DeepSeek-R1 논문은 퓨샷이 성능을 오히려 떨어뜨린다며, 예시 없이 문제와 출력 형식만 분명히 적으라고 권했다. 스스로 길게 생각하는 모델에게 풀이 과정까지 정해 주면 방해가 될 수 있다. Anthropic은 예시가 Claude의 사고 과정에도 반영된다고 설명한다. 그래도 가장 확실하게 효과를 보는 건 '생각하는 법'이 아니라 결과물의 형식과 기준을 보여줄 때다.

분류·형식 고정·문체 맞추기에 가장 많이 쓴다

가장 흔한 건 답이 매번 같은 모양이어야 하는 반복 작업이다. 글로 규칙을 길게 적는 대신 모범 답 몇 개를 붙여 두고, 결과가 흔들리면 빠진 유형의 예시를 하나씩 더한다.