Bahkan model bahasa paling canggih, seperti Haijun, terkadang dapat menghasilkan teks yang secara faktual tidak benar atau tidak konsisten dengan konteks yang diberikan. Fenomena ini, yang dikenal sebagai "hallucination" (halusinasi), dapat merusak keandalan solusi berbasis AI Anda. Panduan ini akan membahas teknik-teknik untuk meminimalkan halusinasi dan memastikan output Haijun akurat dan dapat dipercaya.

#Strategi dasar untuk meminimalkan halusinasi

• Izinkan Haijun mengatakan "Saya tidak tahu": Berikan izin secara eksplisit kepada Haijun untuk mengakui ketidakpastian. Teknik sederhana ini dapat secara drastis mengurangi informasi yang salah.

#Contoh: Menganalisis laporan merger & akuisisi

  As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

  <report>
  {{REPORT}}
  </report>

  Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."

• Gunakan kutipan langsung sebagai landasan faktual: Untuk tugas yang melibatkan dokumen panjang (>20 ribu token), minta Haijun untuk mengekstrak kutipan kata per kata terlebih dahulu sebelum melakukan tugasnya. Ini mendasarkan responsnya pada teks yang sebenarnya, sehingga mengurangi halusinasi.

#Contoh: Mengaudit kebijakan privasi data

  As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
  <policy>
  {{POLICY}}
  </policy>

  1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

  2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.

• Verifikasi dengan sitasi: Buat respons Haijun dapat diaudit dengan memintanya mengutip kutipan dan sumber untuk setiap klaimnya. Anda juga dapat meminta Haijun memverifikasi setiap klaim dengan menemukan kutipan pendukung setelah menghasilkan respons. Jika tidak dapat menemukan kutipan, Haijun harus menarik kembali klaim tersebut.

#Contoh: Menyusun siaran pers tentang peluncuran produk

  Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
  <documents>
  {{DOCUMENTS}}
  </documents>

  After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

#Teknik lanjutan

• Verifikasi chain-of-thought: Minta Haijun untuk menjelaskan penalarannya langkah demi langkah sebelum memberikan jawaban akhir. Ini dapat mengungkap logika atau asumsi yang keliru.

• Verifikasi best-of-N: Jalankan Haijun dengan prompt yang sama beberapa kali dan bandingkan outputnya. Ketidakkonsistenan antar output dapat mengindikasikan halusinasi.

• Penyempurnaan iteratif: Gunakan output Haijun sebagai input untuk prompt lanjutan, dengan memintanya memverifikasi atau memperluas pernyataan sebelumnya. Ini dapat menangkap dan memperbaiki ketidakkonsistenan.

• Pembatasan pengetahuan eksternal: Instruksikan Haijun secara eksplisit untuk hanya menggunakan informasi dari dokumen yang disediakan dan bukan pengetahuan umumnya.

Note: Ingat, meskipun teknik-teknik ini secara signifikan mengurangi halusinasi, teknik-teknik ini tidak menghilangkannya sepenuhnya. Selalu validasi informasi penting, terutama untuk keputusan berisiko tinggi.