AI 할루시네이션을 줄이는 프롬프트 기법

할루시네이션(hallucination)은 AI가 사실이 아닌 내용을 마치 사실인 것처럼 자신 있게 답하는 현상을 말합니다. 완전히 없앨 수는 없지만, 프롬프트 작성 방식으로 상당 부분 줄일 수 있습니다.

1. "모르면 모른다고 해줘"를 명시하세요

AI는 별다른 지시가 없으면 어떻게든 답을 만들어내려는 경향이 있습니다. "확실하지 않으면 추측하지 말고 모른다고 답해줘"라는 문장을 추가하는 것만으로도 근거 없는 답변이 줄어듭니다.

2. 출처를 요구하세요

"이 정보의 출처가 뭐야?"라고 물으면, AI가 실제로 알고 있는 정보인지 아니면 그럴듯하게 지어낸 것인지 판단하는 데 도움이 됩니다. 다만 AI가 제시하는 출처 자체도 검증이 필요하다는 점은 기억하세요.

3. 문서를 근거로 답하도록 제한하세요

특정 문서나 자료를 기반으로 답변받고 싶다면, "아래 문서에 있는 내용만 근거로 답해줘. 문서에 없는 내용은 답하지 마"처럼 범위를 명확히 제한하세요.

4. 숫자와 통계는 반드시 재확인하세요

AI가 제시하는 구체적인 수치, 날짜, 통계는 특히 할루시네이션이 발생하기 쉬운 영역입니다. 중요한 의사결정에 쓰일 숫자라면 반드시 원출처에서 다시 확인하는 습관을 들이세요.

5. 단계별로 검증하며 진행하세요

복잡한 작업을 한 번에 요청하기보다, 단계를 나눠서 각 단계마다 결과를 확인하며 진행하면 오류가 누적되는 것을 막을 수 있습니다.

6. 반대 관점에서 다시 검증시키세요

AI에게 자기 답변을 스스로 재검토하게 하는 것도 오류를 줄이는 데 효과적인 방법입니다.