환각 현상 감소

Claude와 같은 가장 고급 언어 모델도 때때로 사실적으로 부정확하거나 주어진 맥락과 불일치하는 텍스트를 생성할 수 있습니다. "환각"이라고 알려진 이 현상은 AI 기반 솔루션의 신뢰성을 훼손할 수 있습니다. 이 가이드는 환각 현상을 최소화하고 Claude의 출력이 정확하고 신뢰할 수 있도록 하는 기법을 살펴봅니다.

기본 환각 현상 최소화 전략

• Claude가 "모르겠습니다"라고 말하도록 허용: Claude에게 명시적으로 불확실성을 인정할 수 있는 권한을 부여합니다. 이 간단한 기법은 거짓 정보를 크게 줄일 수 있습니다.

• 직접 인용문을 사실 기반으로 사용: 긴 문서(>20k 토큰)와 관련된 작업의 경우, Claude에게 작업을 수행하기 전에 먼저 단어 그대로의 인용문을 추출하도록 요청합니다. 이는 실제 텍스트에 응답을 기반하게 하여 환각 현상을 줄입니다.

• 인용문으로 검증: Claude의 응답을 감사 가능하게 하려면 각 주장에 대해 인용문과 출처를 인용하도록 합니다. 또한 Claude가 응답을 생성한 후 각 주장을 뒷받침하는 인용문을 찾아 각 주장을 검증하도록 할 수 있습니다. 인용문을 찾을 수 없으면 주장을 철회해야 합니다.

고급 기법

• 사고의 연쇄 검증: Claude에게 최종 답변을 제공하기 전에 단계별로 추론을 설명하도록 요청합니다. 이는 잘못된 논리나 가정을 드러낼 수 있습니다.

• 최고 N개 검증: Claude를 동일한 프롬프트로 여러 번 실행하고 출력을 비교합니다. 출력 간의 불일치는 환각 현상을 나타낼 수 있습니다.

• 반복적 개선: Claude의 출력을 후속 프롬프트의 입력으로 사용하여 이전 진술을 검증하거나 확장하도록 요청합니다. 이는 불일치를 포착하고 수정할 수 있습니다.

• 외부 지식 제한: Claude에게 제공된 문서의 정보만 사용하고 일반적인 지식을 사용하지 않도록 명시적으로 지시합니다.