데이터 큐레이션

데이터 큐레이션은 모델 학습이나 RAG에 쓸 데이터에서 잡음·중복·편향·틀린 레이블을 걸러 내고 쓸 만한 데이터만 남기는 과정이다. 데이터 품질이 최종 성능을 좌우하므로 파인튜닝이나 RAG 결과가 기대에 못 미치면 모델이나 프롬프트를 바꾸기 전에 데이터부터 점검한다.

수집, 정제, 선별, 검수 순서로 한다

큐레이션은 한 번에 끝나지 않고 여러 단계를 차례로 거친다. 단계마다 무엇을 왜 버렸는지 기록해 두면, 나중에 기준을 바꿔 다시 돌리기 쉽다.

상담 챗봇이라면 이렇게 거른다

상담 로그를 그대로 파인튜닝에 쓰면 잘못된 답변, 중간에 끊긴 대화, 개인정보까지 함께 학습된다. 먼저 해결이 끝난 상담만 남기고, 답변 품질에 점수를 매겨 상위 20%만 고른 뒤, 개인정보(PII)를 지워야 쓸 만한 학습 데이터가 된다.

품질 점수는 사람이 매길 수도 있고, LLM에게 채점 기준을 주고 매기게 할 수도 있다. LLM에게 채점을 맡길 때는 일부를 사람이 다시 확인해서, 채점 기준이 의도대로 적용되는지 본다.

파인튜닝과 RAG는 거르는 기준이 다르다

파인튜닝 데이터는 모델이 그대로 따라 배우므로 "이렇게 답했으면 좋겠다" 싶은 예시만 남긴다. 양보다 질이 중요해서, 지저분한 데이터가 많은 것보다 깨끗한 데이터가 적은 쪽이 나은 경우가 많다.

RAG 문서는 검색 결과로 답변에 쓰이므로 정확하고 최신이어야 한다. 같은 문서의 예전 버전이 남아 있으면 검색이 엉뚱한 내용을 가져오기 쉽다. 그래서 버전 정리와 중복 제거부터 한다.

너무 많이 걸러도 문제다

기준을 지나치게 좁히면 쉬운 사례만 남아서, 모델이 어려운 질문이나 드문 상황에 약해진다. 특정 고객층이나 주제가 통째로 빠지면 오히려 새로운 편향이 생기기도 한다. 걸러 낸 뒤에도 데이터가 실제 쓰임새를 고루 대표하는지 확인하고, 평가셋은 학습 데이터와 겹치지 않게 따로 떼어 둔다.

모델을 바꾸기 전, 데이터를 준비할 때 쓴다

가장 흔한 건 파인튜닝 학습셋과 RAG 문서를 넣기 전 정리하는 작업이다. 결과가 나쁠 때 원인을 찾으려고 데이터를 다시 들여다보는 데도 쓴다.