Hallucination

실무에서 뜻하는 것

할루시네이션은 문법과 형식이 완벽해서 걸러내기 어렵습니다. 존재하지 않는 API, 없는 통계, 틀린 인용이 자신 있는 문장으로 나옵니다. Claude 공식 문서는 줄이는 방법으로 세 가지를 먼저 꼽습니다. 모르면 모른다고 답하도록 허용하고, 원문 인용을 먼저 뽑게 하고, 주장마다 인용으로 검증하게 합니다. 같은 문서는 이런 기법이 환각을 크게 줄여도 완전히 없애지는 못한다고 밝힙니다. 그래서 중요한 결정 전에는 공식 문서로 교차 확인합니다.

리텐션에서 쓴 예

AI가 거짓말을 할 때, 전문가는 어떻게 반응하는가에 실제 사례를 남겼습니다. Meta Pixel의 Advanced Matching을 설정하다가 “Customer information parameters are not detected” 오류가 떴습니다. Claude Code는 고객 정보를 담아 fbq('init')를 다시 호출하라고 제안했습니다. Meta 개발자 커뮤니티를 확인하니 같은 Pixel ID로 다시 호출하면 콘솔 에러가 났습니다. 정답은 Events Manager에서 Automatic Advanced Matching 토글을 켜는 것이었고, 코드 수정은 필요 없었습니다.

헷갈리기 쉬운 것

RAG는 근거 자료를 붙여 환각을 줄이는 기법입니다. 근거가 틀리거나 비어 있으면 환각은 그대로 남습니다.