Claude Platform Docs
Praktik terbaikPerkuat guardrail

Mengurangi halusinasi

Minimalkan halusinasi dalam output Claude dengan mengizinkan ketidakpastian, mendasarkan respons pada kutipan langsung, dan memverifikasi klaim dengan sitasi.

Bahkan model bahasa paling canggih, seperti Claude, terkadang dapat menghasilkan teks yang secara faktual salah atau tidak konsisten dengan konteks yang diberikan. Fenomena ini, yang dikenal sebagai “hallucination” (halusinasi), dapat merusak keandalan solusi berbasis AI Anda. Panduan ini membahas teknik-teknik untuk meminimalkan halusinasi dan memastikan output Claude akurat dan dapat dipercaya.

Strategi dasar untuk meminimalkan halusinasi

  • Izinkan Claude untuk mengatakan “Saya tidak tahu”: Secara eksplisit berikan Claude izin untuk mengakui ketidakpastian. Teknik ini dapat secara drastis mengurangi informasi yang salah.

  • Gunakan kutipan langsung sebagai landasan faktual: Untuk tugas yang melibatkan dokumen panjang (>20 ribu token), minta Claude untuk mengekstrak kutipan kata per kata terlebih dahulu sebelum melakukan tugasnya. Ini mendasarkan responsnya pada teks yang sebenarnya, sehingga mengurangi halusinasi.

  • Verifikasi dengan sitasi: Jadikan respons Claude dapat diaudit dengan memintanya mengutip kutipan dan sumber untuk setiap klaimnya. Anda juga dapat meminta Claude memverifikasi setiap klaim dengan menemukan kutipan pendukung setelah menghasilkan respons. Jika tidak dapat menemukan kutipan, Claude harus menarik kembali klaim tersebut.


Teknik lanjutan

  • Verifikasi chain-of-thought: Gunakan pemikiran dengan display: "summarized", dan tinjau penalaran yang dirangkum dalam blok thinking ketika sebuah jawaban tampak salah. Ini dapat mengungkap logika atau asumsi yang keliru.

  • Verifikasi best-of-N: Jalankan Claude dengan prompt yang sama beberapa kali dan bandingkan outputnya. Inkonsistensi di antara output dapat mengindikasikan halusinasi.

  • Penyempurnaan iteratif: Gunakan output Claude sebagai input untuk prompt lanjutan, dengan memintanya memverifikasi atau memperluas pernyataan sebelumnya. Ini dapat menangkap dan memperbaiki inkonsistensi.

  • Pembatasan pengetahuan eksternal: Secara eksplisit instruksikan Claude untuk hanya menggunakan informasi dari dokumen yang diberikan dan bukan pengetahuan umumnya.

Apakah halaman ini membantu?