AI 어시스턴트

말로 묻고 시키면 답하고 일을 처리해 주는 LLM 기반 AI 프로그램으로, 대화 맥락을 기억하며 질문 답변, 글쓰기, 코드 작성, 정보 검색 같은 일상 업무를 한곳에서 맡길 때 쓴다. ChatGPT, Claude, Gemini가 대표적이고, ChatGPT 이후 가장 대중적인 AI 사용 방식이 됐다.

글만 쓰다가 도구까지 쓰게 됐다

초기 어시스턴트는 학습한 지식으로 글만 만들었다. 도구 사용(Tool Use) 기능이 붙으면서 웹 검색, 파일 처리, 코드 실행까지 하게 됐다. 지금은 여러 단계를 스스로 이어 가는 에이전트 쪽으로 발전하고 있다.

혼자 쓸 땐 앱, 서비스에 넣을 땐 API

개인 용도라면 웹이나 앱에서 바로 대화하면 된다. 자주 쓰는 지시(말투, 역할, 배경 정보)는 맞춤 지시나 프로젝트 같은 기능에 저장해 두면 매번 다시 설명하지 않아도 된다.

내 서비스에 넣으려면 API로 만든다. 보통 이런 순서로 설계한다.

API는 스스로 기억하지 않아서 대화 내역을 보내지 않으면 앞 내용을 모른다. 대화가 길어지면 오래된 부분을 요약해 보내야 비용과 길이 한도를 지킬 수 있다.

초안은 맡기고, 사실은 확인한다

어시스턴트는 그럴듯하지만 틀린 답(환각)을 자신 있게 말할 수 있다. 중요한 사실은 출처를 직접 확인하고, 민감한 정보를 넣기 전에는 서비스의 데이터 정책을 먼저 본다.

일상 업무의 첫 초안 담당으로 쓴다

가장 흔한 쓰임은 문서나 코드의 첫 초안을 맡기고 사람이 다듬는 방식이다. 서비스를 만드는 쪽에서는 API에 사내 문서를 붙여 질문에 답하는 어시스턴트로 만든다.