개인화

사용자의 행동, 선호, 맥락을 보고 AI 답변이나 콘텐츠를 그 사람에게 맞게 자동으로 바꾸는 기술로, 같은 질문에도 사람마다 더 쓸모 있는 답을 주고 싶을 때 쓴다. 다음 영상 추천 같은 오래된 방식부터 LLM이 내 이력을 보고 말투와 설명 깊이를 바꾸는 방식까지 범위가 넓다.

결국 컨텍스트에 무엇을 넣느냐다

LLM은 모델 자체가 사용자를 기억하지 않는다. 사용자 정보를 프롬프트(컨텍스트)에 넣어 응답을 바꾸는 방식으로 개인화를 구현한다. 넣는 방법은 단순한 것부터 정교한 것까지 세 단계로 나눌 수 있다.

쓰는 사람은 설정으로, 만드는 사람은 단계별로

챗봇을 쓰는 입장이라면 사용자 지정 지침 같은 설정 칸에 "백엔드 개발자, 답은 짧게, 코드 예시 위주"처럼 적어 두면 된다. 메모리 기능이 있는 서비스는 대화 중 알게 된 정보를 저장해 다음 대화에 쓰므로, 저장된 내용을 가끔 열어 보고 틀린 것은 지운다.

앱을 만드는 입장이라면 "짧게/자세히" 같은 선택지를 시스템 프롬프트에 반영하는 것부터 시작한다. 효과가 확인되면 사용자 선호를 따로 저장하고, 요청마다 관련 있는 항목만 골라 넣는다. 전부 넣으면 토큰 비용이 늘고 상관없는 정보가 답을 흐린다.

개인화가 오히려 방해될 때

누구에게나 같은 답이 나와야 하는 일, 예를 들어 사실 확인, 규정 안내, 평가·채점에는 개인화를 끄는 편이 낫다. 지난 대화의 선호가 새 작업에 잘못 섞이면 엉뚱한 전제를 깔고 답하기도 한다. 이럴 땐 메모리를 끄거나 임시 대화, 새 대화로 시작한다.

개인정보는 필요한 만큼만

개인화는 데이터를 많이 모을수록 정확해지지만 그만큼 위험도 커진다. 꼭 필요한 정보만 저장하고(데이터 최소화), 무엇을 저장했는지 사용자에게 보여 주며, 지우거나 끌 수 있게 해야 한다. 건강·금융 같은 민감 정보는 기본적으로 저장하지 않는다.

가장 흔한 건 챗봇 지침과 메모리

개인 사용자가 가장 자주 접하는 개인화는 AI 챗봇의 사용자 지정 지침과 메모리다. 한 번 적어 두면 매번 "짧게, 예시 위주로"를 다시 말할 필요가 없다.