지식 베이스

지식 베이스는 회사 문서·매뉴얼·FAQ처럼 AI가 답하기 전에 찾아볼 자료를 모아 검색하기 쉽게 정리한 저장소로, LLM이 모르는 최신 정보나 내부 정보를 근거로 답하게 하는 RAG의 재료다. 문서가 자주 바뀌거나 출처가 필요한 답일 때 파인튜닝 대신 쓴다.

문서를 잘게 나눠 뜻으로 찾게 한다

일반 문서 저장소는 키워드가 맞아야 찾지만, AI용 지식 베이스는 문서를 임베딩 벡터로 바꿔 저장하므로 뜻이 비슷한 내용도 찾아낸다. "환불 규정"을 물어도 "반품 정책" 문서가 나오는 식이다. 만드는 순서는 대체로 같다.

실제 서비스에서는 의미 검색에 키워드 검색을 섞어 정확도를 높이는 경우가 많다.

규모에 맞춰 만드는 방식을 고른다

혼자 일할 때 문서 몇십 개를 참고시키는 정도라면 채팅 앱의 프로젝트 기능에 파일을 올리는 것으로 충분하다. 자사 챗봇이나 앱에 붙일 때는 관리형 서비스나 직접 구축을 검토한다.

품질은 문서 관리가 좌우한다

지식 베이스에 오래된 문서가 남아 있으면 AI는 틀린 내용을 자신 있게 답한다. 문서가 바뀌면 임베딩을 자동으로 다시 만드는 동기화 파이프라인이 꼭 있어야 하고, 폐기된 문서는 지워야 한다.

권한도 조심해야 한다. 인사·급여 문서까지 한곳에 넣으면 누구나 AI를 거쳐 그 내용을 볼 수 있게 되므로, 사용자 권한에 맞춰 검색 대상을 거르는 설정이 필요하다. 답변에 출처 문서를 함께 보여주면 사용자가 내용을 직접 확인할 수 있어 믿고 쓰기 쉬워진다.

사내 문서 검색과 상담 챗봇에 가장 많이 쓴다

가장 흔한 건 여기저기 흩어진 사내 문서를 한곳에 모아, 직원이 물으면 근거 문서와 함께 답을 받게 하는 방식이다. 고객용 챗봇이나 개발 도구에도 같은 구조를 그대로 붙인다.