Human-in-the-loop

실무에서 뜻하는 것

에이전트가 모든 단계를 혼자 끝내지 않도록, 정해 둔 지점에서 멈추고 사람의 결정을 기다리게 합니다. 승인 지점은 되돌리기 어려운 행동 앞에 둡니다. 외부 발송, 결제, 환불, 삭제, 배포가 대표적입니다. 다시 돌리면 되는 조회나 집계에는 두지 않습니다. 모든 단계에 승인을 걸면 자동화로 아낀 시간이 다시 사라집니다.

리텐션에서 쓴 예

AI 에이전트에게 일을 맡겼더니, 제일 중요한 건 Kanban이었다에서 blocked 상태를 안전장치로 썼습니다. 결제, 환불, 외부 발송, 삭제, 배포는 blocked로 멈추고, 사람이 판단을 남기면 이어 갑니다. 새 업무는 첫 3번을 사람이 꼼꼼히 검수합니다. 카카오톡 CS 가드는 모든 답안을 보내기 전에 보여 주고, 운영자가 승인하면 보냅니다. 확신이 없는 질문은 답하지 않고 운영자에게 넘깁니다.

헷갈리기 쉬운 것

리텐션은 “Human in the lead”라는 말도 씁니다. 사람을 루프 안의 검수 도구로 두지 않고, 기준과 최종 결정을 정하는 자리에 둔다는 뜻입니다. 승인 단계는 할루시네이션이 고객에게 그대로 나가는 일을 막는 마지막 지점이기도 합니다.