휴먼 인 더 루프

AI 에이전트가 파일 삭제, 결제, 이메일 발송처럼 되돌리기 어려운 행동을 하기 직전에 멈추고 사람의 승인을 받게 하는 설계 방식이다. 대부분의 일은 에이전트에게 맡기고, 되돌릴 수 없는 순간에만 사람이 끼어든다.

직원(AI)이 수표를 채워서 내밀어도 관리자(사람)가 서명하기 전에는 아무 일도 일어나지 않는 구조와 같다.

도구를 부르기 직전에 멈춘다

가장 흔한 방식은 에이전트가 도구를 호출하기 직전에 멈추는 것이다. LangGraph는 interrupt() 기능을 제공해, 실행이 이 지점에 닿으면 에이전트가 스스로 일시정지하고 사람의 응답을 기다린다.

멈춘 순간의 상태를 통째로 저장해 두기 때문에, 5분 뒤에 승인하든 다음 날 승인하든 그 체크포인트에서 하던 일을 그대로 이어간다.

Claude Code는 권한 모드로 조절한다

Claude Code는 파일 쓰기나 명령 실행처럼 영향이 큰 작업을 만나면 실행 전에 확인창을 띄운다. 권한 모드를 바꿔 어떤 작업은 자동으로 허용하고 어떤 작업은 매번 물을지 정할 수 있다. 위험 없는 일은 맡기고 되돌릴 수 없는 일에만 개입하는 하이브리드 구조가 현실적이다.

개입 깊이는 위험도에 맞춘다

실수가 치명적인 일은 매번 승인을 받고, 자주 일어나고 되돌리기 쉬운 일은 지켜보기만 한다. 한 시스템 안에서도 작업마다 두 수준을 섞어 쓰는 것이 보통이다.

승인이 형식만 남으면 무너진다

판단할 정보를 제대로 보여주지 않으면 내용도 안 보고 "승인"만 누르는 습관이 생긴다. 이를 고무도장 승인이라 부르며, 이렇게 되면 사람을 둔 의미가 사라진다. 무엇을 왜 승인하는지 근거와 맥락을 한눈에 보여주는 검토 화면이 어떤 프레임워크를 쓰느냐보다 실제 안전성을 더 크게 좌우한다.

에이전트에게 일을 맡길 때의 안전장치로 쓴다

가장 흔한 건 코딩 에이전트나 업무 자동화 에이전트에 마지막 실행 단계 앞에 승인 단계를 두는 방식이다. 읽고 준비하는 일은 맡겨 두고, 실제로 바깥에 영향을 주는 순간에만 사람이 확인한다.