Mengapa LLM Mengalami Hallucination? Penyebab, Risiko, dan Mitigasinya

Mengapa LLM Dapat Mengalami Hallucination?

LLM mengalami hallucination karena tugas dasarnya adalah menghasilkan rangkaian token yang masuk akal berdasarkan pola dan context, bukan memeriksa setiap pernyataan terhadap kebenaran eksternal. Ketika informasi kurang, ambigu, bertentangan, atau berada di luar pengetahuan yang dapat digunakan, model tetap dapat menghasilkan jawaban yang terdengar meyakinkan.

Hallucination bukan berarti model “melihat sesuatu.” Istilah ini merujuk pada output yang salah, dibuat-buat, tidak didukung sumber, atau tidak setia kepada input meskipun bahasanya terlihat lancar.

Artikel tentang cara kerja generative AI dan LLM memberi gambaran sistemnya; pembahasan ini berfokus pada failure mode dan kontrol risikonya.

Apa yang Disebut Hallucination?

Tidak semua jawaban yang tidak disukai termasuk hallucination. Output dapat buruk karena tidak relevan, formatnya salah, terlalu panjang, bias, unsafe, atau gagal mengikuti instruction. Hallucination lebih khusus berkaitan dengan kebenaran atau dukungan terhadap isi jawaban.

Dua bentuk yang berguna untuk dibedakan:

• Factuality error — pernyataan bertentangan dengan fakta eksternal, misalnya tanggal atau sumber yang dibuat-buat.
• Faithfulness atau groundedness error — jawaban tidak didukung atau bertentangan dengan context yang seharusnya menjadi dasar.

Satu output dapat mengalami keduanya. Model dapat menyebut fakta yang salah dan sekaligus mengatribusikannya kepada dokumen yang tidak pernah menyatakan hal tersebut.

Survey mengenai hallucination dalam natural language generation menunjukkan bahwa masalah ini muncul pada summarisation, dialogue, question answering, translation, data-to-text, dan berbagai task generatif lain. Definisi serta metric dapat berbeda menurut task, sehingga satu skor universal sulit digunakan.

Penyebab Pertama: Objective Model Bukan Verifikasi Fakta

Large language model belajar memprediksi token atau bagian yang hilang dari banyak contoh. Objective tersebut membentuk kemampuan bahasa yang kuat, tetapi tidak otomatis menambahkan proses pencarian bukti untuk setiap claim.

Saat menghasilkan respons, model menilai kelanjutan yang mungkin dari context. Token yang secara statistik cocok belum tentu benar di dunia nyata. Nama paper palsu, URL yang tampak wajar, atau angka rinci dapat muncul karena bentuknya sesuai pola meskipun referensinya tidak ada.

Model juga tidak memiliki satu kolom terpisah yang menandai setiap pengetahuan sebagai benar, salah, atau kedaluwarsa. Pola tersimpan secara tersebar dalam parameter dan dapat saling bersaing.

Penyebab Kedua: Data dan Pengetahuan Memiliki Batas

Data training dapat mengandung:

• informasi yang salah atau saling bertentangan;
• bias dan misconception yang sering diulang;
• representasi yang tidak seimbang antarbahasa atau domain;
• fakta yang telah berubah;
• kekurangan contoh untuk pertanyaan sangat spesifik.

Benchmark TruthfulQA dirancang untuk menguji pertanyaan yang sering dijawab salah karena misconception manusia. Temuannya menunjukkan bahwa meniru distribusi text dapat ikut mereproduksi falsehood yang populer.

Ukuran model dan data yang lebih besar dapat meningkatkan banyak kemampuan, tetapi tidak menjadi bukti bahwa seluruh jawaban pasti truthful.

Penyebab Ketiga: Prompt dan Context Tidak Memadai

Model hanya dapat menggunakan informasi yang tersedia dalam parameter dan context saat itu. Risiko meningkat ketika:

• pertanyaan ambigu tetapi model tidak diminta mengklarifikasi;
• instruction mendorong jawaban pasti;
• detail penting tidak diberikan;
• dokumen terlalu panjang sehingga evidence terabaikan;
• sumber bertentangan tanpa hierarchy yang jelas;
• conversation history membawa asumsi yang salah;
• format output memaksa kolom terisi meskipun datanya tidak ada.

Prompt seperti “jawab apa pun yang terjadi” dapat menekan perilaku uncertainty. Sebaliknya, memberi izin untuk mengatakan “informasi tidak cukup” membantu, tetapi tetap tidak menjamin model selalu mengetahui batas pengetahuannya.

Penyebab Keempat: Retrieval dan Tools Juga Dapat Gagal

RAG menambahkan evidence eksternal, tetapi pipeline tersebut memiliki failure mode sendiri.

• Retriever memilih dokumen yang mirip tetapi tidak relevan.
• Chunk memisahkan pengecualian dari aturan utama.
• Index belum memuat versi terbaru.
• Search query gagal menangkap terminology sumber.
• Tool mengembalikan error atau data parsial.
• Model salah menafsirkan hasil tool.
• Citation dipasang pada claim yang tidak didukung sumber.

Dalam kondisi ini, output tampak grounded karena memiliki citation, padahal hubungan claim dan sumbernya lemah. Keberadaan link bukan bukti correctness.

Penyebab Kelima: Generation Bersifat Probabilistik

LLM menghasilkan token secara berurutan. Pilihan token awal membentuk kemungkinan token selanjutnya, sehingga satu asumsi salah dapat berkembang menjadi penjelasan yang panjang dan konsisten secara bahasa.

Parameter decoding juga memengaruhi variasi. Temperature yang lebih tinggi dapat menghasilkan output lebih beragam, tetapi menurunkan temperature bukan tombol penghapus hallucination. Model masih dapat memilih jawaban salah yang dianggap paling mungkin.

Task panjang, multi-step reasoning, perhitungan, dan detail langka menambah kesempatan error. Membuat jawaban lebih panjang juga tidak otomatis membuat verifikasi lebih kuat.

Risiko Hallucination bagi Bisnis

Dampaknya bergantung pada konteks penggunaan.

Penggunaan	Contoh risiko
Content	Fakta, kutipan, atau sumber palsu diterbitkan
Customer support	Kebijakan, harga, atau garansi dijelaskan salah
Analytics	Korelasi dianggap sebagai penyebab
Legal/finance	Syarat atau angka keliru memengaruhi keputusan
Internal knowledge	Prosedur lama dianggap masih berlaku
Coding	Library, method, atau konfigurasi yang tidak ada digunakan

Risiko tidak hanya berasal dari jawaban salah. Confidence manusia terhadap bahasa yang meyakinkan dapat memperbesar dampaknya. Automation juga dapat membuat satu error terulang pada banyak pengguna sebelum diketahui.

Cara Mengurangi Hallucination

Tidak ada satu teknik yang menghapus seluruh risiko. Gunakan beberapa lapisan sesuai dampaknya.

Perbaiki task dan instruction

• Definisikan sumber yang boleh digunakan.
• Minta klarifikasi untuk input ambigu.
• Izinkan refusal ketika evidence tidak cukup.
• Gunakan output terstruktur jika format perlu divalidasi.

Berikan evidence yang baik

• Pilih sumber resmi dan mutakhir.
• Gunakan retrieval untuk data privat atau berubah.
• Pertahankan tanggal, versi, dan konteks.
• Hindari memasukkan banyak dokumen tanpa seleksi.

Tambahkan validation

• Periksa angka dan identifier melalui rule atau database.
• Pastikan citation mendukung claim.
• Gunakan tools deterministik untuk calculation.
• Bandingkan output dengan reference answer pada test set.

Sesuaikan human oversight

Draft berisiko rendah dapat ditinjau secara sampling. Keputusan medis, legal, finansial, keamanan, atau tindakan yang sulit dibatalkan memerlukan review dan authority yang lebih ketat.

Bagaimana Hallucination Dievaluasi?

Evaluasi perlu mengikuti bentuk tugas.

• Factuality: apakah claim benar terhadap sumber eksternal yang layak?
• Groundedness: apakah claim didukung context yang diberikan?
• Citation correctness: apakah sumber benar-benar mendukung pernyataan di dekatnya?
• Completeness: apakah evidence penting tidak dihilangkan?
• Abstention: apakah model menolak ketika jawaban tidak tersedia?
• Consistency: apakah variasi prompt menghasilkan konflik yang material?

Automated evaluator membantu skala, tetapi tetap dapat salah. Riset tentang hallucination-detection metrics menemukan bahwa sejumlah metric menunjukkan keselarasan yang tidak konsisten dengan human judgment pada model, dataset, dan decoding method berbeda.

Test set internal perlu mencakup pertanyaan tanpa jawaban, data kedaluwarsa, sumber bertentangan, entity bernama mirip, angka, citation, serta edge case yang benar-benar muncul dalam workflow.

Pertanyaan Umum

Apakah hallucination sama dengan kebohongan?

Tidak. Kebohongan menyiratkan niat untuk menipu. LLM menghasilkan output dari pola dan context tanpa niat manusia, meskipun akibat informasinya tetap dapat menyesatkan.

Apakah model terbaru bebas hallucination?

Tidak dapat diasumsikan. Model baru dapat memperbaiki berbagai benchmark dan failure mode, tetapi tetap perlu diuji pada use case, bahasa, source, serta risiko aktual.

Apakah RAG menghilangkan hallucination?

Tidak. RAG dapat memberi evidence yang lebih relevan, tetapi retrieval, source, context construction, dan generation tetap dapat gagal.

Apakah semua jawaban AI harus diperiksa manusia?

Tingkat review mengikuti dampak kesalahan. Output berisiko rendah dapat memakai sampling dan automated checks; keputusan consequential membutuhkan verifikasi serta approval yang lebih kuat.

Kesimpulan

Hallucination terjadi karena LLM menghasilkan kelanjutan bahasa yang mungkin, bukan menjalankan pemeriksaan fakta otomatis pada setiap claim. Data, context, retrieval, tools, dan decoding dapat memperbaiki atau memperburuk hasil.

Tujuan realistisnya bukan menganggap hallucination telah hilang, tetapi mengelola probabilitas dan dampaknya. Sumber yang baik, instruction yang jelas, retrieval yang teruji, validation, monitoring, serta human oversight membantu membangun sistem yang cukup dapat dipercaya untuk pekerjaan tertentu.