Bagaimana Generative AI dan LLM Bekerja?
Large Language Model atau LLM menghasilkan bahasa dengan memproses input menjadi token, membaca hubungan antartoken dalam context, lalu memprediksi token berikutnya secara berulang. Aplikasi generative AI dapat menambahkan instruction, retrieval, filter, tool, dan evaluasi di sekitar model agar hasilnya lebih relevan serta aman.
Mekanisme tersebut menjelaskan dua sifat yang sering terlihat bersamaan: output dapat sangat lancar dan berguna, tetapi tetap dapat salah. Model menghasilkan pola bahasa yang masuk akal; ia tidak otomatis memeriksa setiap pernyataan terhadap sumber yang benar.
Artikel ini berfokus pada mekanisme setelah pengertian dasarnya dipahami. Untuk definisi, bentuk output, dan contoh pemula, mulai dari apa itu Generative AI.
- LLM bekerja dengan token dan probabilitas, bukan mengambil kalimat utuh dari database.
- Context window membatasi informasi yang tersedia pada satu proses, bukan menjadi memory permanen.
- RAG menambahkan informasi eksternal sebelum generation, tetapi tidak menjamin jawaban akurat.
- Prompting, retrieval, fine-tuning, dan tools menyelesaikan masalah yang berbeda.
- Kualitas sistem perlu dievaluasi pada tugas nyata, bukan hanya dari jawaban yang terlihat meyakinkan.
Dari Data Pelatihan Menjadi Model Bahasa
Sebelum digunakan, LLM dilatih dengan kumpulan data besar agar mempelajari pola bahasa, hubungan konsep, format, dan struktur. Pada pretraining, model berulang kali mencoba memprediksi bagian yang hilang atau token berikutnya, kemudian parameternya disesuaikan ketika prediksi tidak sesuai target.
Hasil training bukan salinan dokumen yang dapat dibuka seperti folder. Pola yang dipelajari tersimpan secara tersebar dalam parameter model. Karena itu, istilah parametric knowledge lebih tepat daripada membayangkan model memiliki database fakta yang rapi.
Setelah pretraining, model dapat melalui instruction tuning, preference optimisation, safety training, atau penyesuaian lain. Tahap tersebut membantu model mengikuti perintah dan menghasilkan respons yang lebih sesuai, tetapi tidak menghapus seluruh error, bias, atau keterbatasan data pelatihan.
Training berbeda dari inference. Training membentuk parameter dan membutuhkan proses komputasi besar. Inference menggunakan model yang telah dilatih untuk menghasilkan output dari input baru.
Token, Embedding, dan Posisi
Model tidak membaca kalimat persis seperti manusia. Input lebih dahulu dipecah oleh tokenizer menjadi unit yang disebut token. Satu token dapat berupa kata, bagian kata, tanda baca, angka, atau karakter tertentu, bergantung pada tokenizer.
Jumlah token memengaruhi:
- seberapa banyak input dan output yang muat dalam context window;
- biaya penggunaan pada layanan yang menghitung input dan output;
- latency serta kebutuhan komputasi;
- cara model menangani bahasa, kode, angka, dan format tertentu.
Setiap token kemudian diubah menjadi embedding, yaitu representasi angka dalam ruang berdimensi banyak. Embedding membantu model memproses hubungan dan kemiripan pola secara matematis. Informasi posisi juga ditambahkan karena urutan “pelanggan menghubungi bisnis” berbeda dari “bisnis menghubungi pelanggan.”
Embedding tidak menyimpan definisi manusia secara literal. Kedekatan vector menunjukkan hubungan yang dipelajari, tetapi tidak otomatis membuktikan dua informasi memiliki arti atau kebenaran yang sama.
Transformer dan Attention
Banyak LLM modern dibangun menggunakan arsitektur Transformer. Paper Attention Is All You Need memperkenalkan Transformer yang mengandalkan attention untuk memodelkan hubungan dalam sequence tanpa recurrence yang digunakan banyak arsitektur sebelumnya.
Secara sederhana, self-attention membantu model menentukan bagian context mana yang relevan ketika membentuk representasi setiap token. Kata ganti dapat dikaitkan dengan subjek sebelumnya; instruction di awal dapat memengaruhi output di bagian akhir; dan hubungan antarbanyak token dapat diproses melalui beberapa attention heads.
Transformer terdiri dari lebih dari attention. Feed-forward layers, normalisation, residual connection, dan representasi posisi ikut membentuk komputasi. Istilah “attention” juga tidak berarti model memiliki perhatian, niat, atau pemahaman sadar seperti manusia.
Dari Prompt Menjadi Output
Saat sebuah permintaan dikirim, aplikasi biasanya menyusun context dari beberapa bagian:
- system atau developer instruction;
- pesan pengguna;
- riwayat percakapan yang disertakan;
- dokumen hasil retrieval jika digunakan;
- output tool atau data terstruktur;
- aturan format serta batas output.
Model memproses context tersebut dan menghasilkan distribusi probabilitas untuk token berikutnya. Proses pemilihan token dipengaruhi parameter decoding seperti temperature, tetapi implementasinya dapat berbeda antarproduk. Token terpilih dimasukkan kembali ke sequence, lalu proses berulang hingga selesai atau mencapai batas.
Karena generation berlangsung secara bertahap, kesalahan awal dapat memengaruhi token berikutnya. Jawaban panjang juga bukan bukti bahwa model melakukan verifikasi lebih dalam.
Apa Itu Context Window?
Context window adalah kapasitas token yang dapat diproses model dalam satu interaction atau request. Isinya dapat mencakup instruction, prompt, riwayat, dokumen, dan output yang sedang dihasilkan.
Context window besar memungkinkan lebih banyak informasi masuk, tetapi tidak berarti setiap bagian digunakan dengan bobot sama atau selalu diingat secara akurat. Informasi dapat tenggelam di antara banyak dokumen, saling bertentangan, atau dipotong oleh aplikasi sebelum sampai ke model.
Context juga berbeda dari memory permanen. Jika sebuah aplikasi mengingat preferensi atau percakapan lama, biasanya terdapat mekanisme tambahan yang menyimpan, memilih, dan memasukkan informasi tersebut kembali. Model dasar tidak otomatis mengingat seluruh interaksi sebelumnya.
Untuk kebutuhan bisnis, kualitas context sering lebih penting daripada sekadar volumenya. Dokumen yang relevan, mutakhir, memiliki owner, dan tidak saling bertentangan memberi dasar yang lebih baik daripada memasukkan semua file tanpa seleksi.
Retrieval dan RAG
Model dapat menjawab dari pola yang tersimpan dalam parameter, tetapi informasi organisasi berubah dan mungkin tidak tersedia saat training. Retrieval-Augmented Generation atau RAG mengambil informasi eksternal yang relevan lalu memasukkannya sebagai context sebelum model menghasilkan jawaban.
Paper asli Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks menggabungkan parametric memory dari model generatif dengan non-parametric memory berupa indeks dokumen yang diakses retriever.
Pipeline RAG pada aplikasi bisnis umumnya mencakup:
- dokumen dikumpulkan, dibersihkan, dan dipecah menjadi chunk;
- chunk diubah menjadi embedding dan disimpan dalam index;
- pertanyaan pengguna diubah menjadi query untuk retrieval;
- sistem memilih dan dapat melakukan reranking pada sumber yang relevan;
- potongan terpilih dimasukkan ke prompt;
- model menghasilkan jawaban, idealnya dengan attribution atau citation;
- output diperiksa, dicatat, dan dievaluasi.
RAG tidak menjamin factuality. Retriever dapat mengambil dokumen yang salah, chunk dapat kehilangan konteks, sumber dapat kedaluwarsa, dan generator dapat mengabaikan atau salah menafsirkan bukti. Citation juga perlu diverifikasi apakah benar mendukung claim, bukan sekadar berasal dari dokumen yang sama.
Prompting, RAG, Fine-Tuning, dan Tools
Keempatnya bukan jenjang yang harus selalu dilalui.
| Pendekatan | Cocok untuk | Tidak otomatis menyelesaikan |
|---|---|---|
| Prompting | Instruction, format, batas, dan contoh singkat | Pengetahuan privat atau data terbaru |
| RAG | Informasi eksternal yang perlu diperbarui dan dilacak | Reasoning, retrieval buruk, atau sumber berkualitas rendah |
| Fine-tuning | Perilaku, style, pola output, atau task yang konsisten | Update fakta yang sering berubah |
| Tools | Mengambil data live atau menjalankan fungsi tertentu | Otorisasi, kontrol risiko, dan validasi hasil |
Tool use perlu dibedakan dari generation. Ketika sistem memilih tools, mempertahankan state, dan menjalankan beberapa tindakan menuju tujuan, pembahasannya mulai masuk wilayah AI agent. Fondasi perbedaannya tersedia pada artikel apa itu Agentic AI.
Mengapa LLM Dapat Mengalami Hallucination?
Hallucination atau confabulation adalah output yang terdengar masuk akal tetapi salah, tidak didukung, atau dibuat-buat. Hal ini dapat muncul karena:
- objective model mengutamakan prediksi token, bukan verifikasi fakta;
- prompt tidak memberikan informasi yang cukup;
- parametric knowledge tidak lengkap atau kedaluwarsa;
- retrieval mengambil sumber yang tidak relevan;
- context berisi informasi yang bertentangan;
- model dipaksa menjawab ketika seharusnya menyatakan tidak tahu;
- rangkaian reasoning atau perhitungan mengalami error.
RAG, grounding, constrained output, tools, dan human review dapat mengurangi risiko pada kondisi tertentu, tetapi tidak menghapusnya. Semakin besar dampak kesalahan—misalnya pada keputusan finansial, legal, medis, atau operasional—semakin kuat kebutuhan verifikasi dan pembatasannya.
Cara Mengevaluasi Sistem Generative AI
Demo yang terlihat bagus belum menunjukkan kualitas pada pekerjaan nyata. Evaluasi perlu dimulai dari use case, dataset representatif, kriteria keberhasilan, dan jenis error yang tidak dapat diterima.
Dimensi yang dapat diukur meliputi:
| Dimensi | Pertanyaan evaluasi |
|---|---|
| Task success | Apakah output menyelesaikan pekerjaan yang ditentukan? |
| Factuality | Apakah claim benar berdasarkan reference yang layak? |
| Groundedness | Apakah jawaban benar-benar didukung context yang diberikan? |
| Relevance | Apakah output menjawab kebutuhan tanpa bagian yang mengganggu? |
| Instruction following | Apakah format, batas, dan policy dipatuhi? |
| Robustness | Apakah kualitas bertahan pada variasi input dan edge case? |
| Safety | Apakah output menghindari risiko yang telah ditentukan? |
| Efficiency | Berapa latency, token, biaya, dan intervensi manusia? |
HELM dari Stanford CRFM menekankan evaluasi yang transparan dan dapat direproduksi pada banyak scenario serta metric, bukan satu angka universal. Benchmark publik berguna untuk orientasi, tetapi belum tentu mewakili dokumen, bahasa, risiko, dan workflow sebuah organisasi.
NIST Generative AI Profile menyarankan pengujian empiris, dokumentasi kondisi penggunaan, verifikasi source dan citation, serta monitoring setelah deployment. Evaluasi perlu diulang ketika model, prompt, retrieval corpus, policy, atau use case berubah.
Contoh Membaca Sistem secara End-to-End
Misalnya sebuah aplikasi menjawab pertanyaan internal tentang kebijakan perusahaan.
- LLM menyediakan kemampuan bahasa dan menyusun respons.
- System instruction membatasi peran serta format.
- Retrieval memilih dokumen kebijakan yang relevan.
- Context window memuat pertanyaan dan potongan dokumen.
- Generator menyusun jawaban beserta citation.
- Evaluator memeriksa correctness, groundedness, dan refusal ketika sumber tidak cukup.
- Log membantu menemukan query gagal dan dokumen yang perlu diperbaiki.
Jika jawabannya salah, mengganti model bukan selalu solusi pertama. Masalah dapat berada pada kualitas dokumen, chunking, retrieval, instruction, citation mapping, atau kriteria evaluasi.
Lanjutkan ke Komponen dan Failure Mode Utama
Pillar ini menunjukkan hubungan token, context, retrieval, generation, dan evaluasi sebagai satu sistem. Tiga artikel berikut memperdalam node utamanya tanpa mengulang seluruh alur:
- apa itu Large Language Model untuk memahami model bahasa sebagai komponen dasar;
- apa itu Retrieval-Augmented Generation untuk memahami sumber, retrieval pipeline, citation, dan governance;
- mengapa LLM mengalami hallucination untuk membedakan factuality, groundedness, penyebab error, serta kontrolnya.
Urutan tersebut memisahkan kemampuan model, pengetahuan eksternal, dan risiko output agar masalah tidak selalu diselesaikan dengan mengganti model.
Kesalahan yang Perlu Dihindari
- Menyamakan jawaban lancar dengan pemahaman atau kebenaran.
- Menganggap context window sebagai memory permanen.
- Memakai RAG tanpa owner dan siklus pembaruan dokumen.
- Menggunakan fine-tuning untuk fakta yang sering berubah.
- Mengukur model hanya dari satu benchmark atau beberapa prompt pilihan.
- Tidak menyimpan test set ketika prompt atau model diperbarui.
- Mengabaikan privacy, permission, prompt injection, dan data leakage.
- Memberi wewenang tindakan hanya karena output terlihat meyakinkan.
Pertanyaan Umum
Apakah LLM sama dengan Generative AI?
Tidak. LLM merupakan model generatif yang berfokus pada bahasa. Generative AI juga mencakup model untuk gambar, audio, video, dan jenis output lain.
Apakah LLM mencari jawaban di internet?
Tidak secara otomatis. Model dasar menghasilkan jawaban dari parameter dan context. Aplikasi dapat menambahkan browsing, search, atau retrieval sebagai sistem terpisah.
Apakah context window yang besar membuat model selalu lebih akurat?
Tidak. Kapasitas lebih besar memungkinkan input lebih banyak, tetapi relevance, struktur, kualitas sumber, dan kemampuan model menggunakan context tetap menentukan hasil.
Apakah RAG lebih baik daripada fine-tuning?
Tergantung masalahnya. RAG cocok untuk informasi eksternal yang berubah dan perlu ditelusuri. Fine-tuning lebih cocok untuk pola perilaku atau output yang konsisten. Keduanya dapat dipakai bersama.
Apakah hallucination dapat dihilangkan sepenuhnya?
Belum dapat diasumsikan. Risiko dapat dikurangi melalui desain system, grounding, retrieval, validation, dan human review yang sesuai dengan dampak kesalahan.
Kesimpulan
Generative AI dan LLM bekerja melalui rangkaian token, representasi, attention, context, dan prediksi probabilistik. Aplikasi dapat menambahkan retrieval, instruction, tools, serta kontrol, tetapi setiap lapisan membawa kemampuan dan kegagalan baru.
Memahami mekanisme ini membantu bisnis memilih intervensi yang tepat. Prompt memperjelas perintah, RAG memasukkan pengetahuan eksternal, fine-tuning mengubah pola perilaku, dan evaluasi menunjukkan apakah keseluruhan sistem benar-benar bekerja. Tujuannya bukan membuat model terdengar paling pintar, tetapi menghasilkan output yang relevan, dapat diuji, dan cukup aman untuk konteks penggunaannya.