Mengapa LLM Membutuhkan Prompt? Fungsi, Cara Kerja, dan Contohnya

Mengapa LLM membutuhkan prompt? Large Language Model atau LLM membutuhkan prompt karena model menghasilkan respons berdasarkan input dan konteks yang tersedia saat digunakan.

Prompt membantu model mengetahui tugas yang perlu dikerjakan, informasi yang harus dipertimbangkan, batasan jawaban, serta format output yang diharapkan. Tanpa arahan yang jelas, model tetap dapat menghasilkan teks, tetapi hasilnya belum tentu sesuai dengan kebutuhan pengguna.

Prompt juga tidak selalu berbentuk pertanyaan. Dalam aplikasi AI, prompt dapat mencakup instruksi sistem, pesan pengguna, riwayat percakapan, dokumen tambahan, contoh jawaban, hingga hasil dari database atau tool eksternal.

Apa Itu Prompt pada LLM?

Prompt adalah input yang diberikan kepada LLM untuk mengarahkan proses pembuatan respons. Input tersebut dapat berupa:

• Pertanyaan.
• Instruksi.
• Teks atau dokumen.
• Kode program.
• Contoh input dan output.
• Data terstruktur.
• Gambar atau audio pada model multimodal.

Sebagai contoh, pengguna dapat menulis prompt berikut:

Jelaskan fungsi DNS menggunakan bahasa yang mudah dipahami.

Prompt tersebut memberikan dua informasi utama. Pertama, model diminta menjelaskan fungsi DNS. Kedua, penjelasan harus menggunakan bahasa yang mudah dipahami.

Pada aplikasi yang lebih kompleks, prompt dapat disusun oleh backend dari beberapa komponen sekaligus.

Prompt tidak mengubah parameter model secara permanen. Prompt hanya menjadi bagian dari konteks yang dipertimbangkan model ketika memproses permintaan.

Mengapa LLM Membutuhkan Prompt?

LLM memiliki kemampuan umum yang diperoleh selama proses pelatihan, yaitu memahami pola bahasa, konteks, dan hubungan antar kata dari data dalam jumlah besar. Namun, kemampuan ini bersifat generik, sehingga model tidak secara otomatis mengetahui tujuan spesifik yang diinginkan pengguna pada setiap situasi.

Di sinilah prompt berperan sebagai konteks pengarah (instructional context) yang menjembatani kemampuan umum model dengan kebutuhan spesifik pengguna.

Misalnya, perhatikan informasi berikut:

Website toko online mengalami peningkatan pengunjung, tetapi proses checkout mulai lambat.

Informasi yang sama dapat digunakan untuk beberapa tujuan yang berbeda, tergantung pada instruksi yang diberikan melalui prompt.

Prompt pertama:

Ringkas masalah tersebut dalam satu kalimat.

Prompt kedua:

Sebutkan lima kemungkinan penyebab teknis dari masalah tersebut.

Prompt ketiga:

Buat balasan customer service yang sopan kepada pelanggan yang terdampak.

Dari contoh tersebut, terlihat bahwa input yang sama dapat menghasilkan output yang sangat berbeda, karena prompt memberikan arah yang berbeda kepada model. Tanpa prompt yang jelas, model hanya akan menebak respons berdasarkan pola umum, bukan berdasarkan kebutuhan spesifik.

Secara umum, prompt berfungsi sebagai kerangka instruksi (instruction framework) yang mengubah model dari sekadar “generator teks” menjadi “eksekutor tugas berbasis bahasa”. Prompt digunakan untuk:

• Menentukan tindakan yang perlu dilakukan oleh model.
• Memberikan konteks tambahan yang tidak tersimpan di dalam model.
• Menjelaskan target pembaca atau audiens hasil jawaban.
• Mengatur gaya bahasa, tone, dan tingkat kedalaman penjelasan.
• Menentukan batasan atau aturan dalam menjawab.
• Mengatur struktur output (misalnya paragraf, poin, atau JSON).
• Memberikan contoh agar model mengikuti pola tertentu.
• Mengarahkan penggunaan data eksternal atau tool jika tersedia.

Dengan kata lain, prompt adalah mekanisme kontrol utama yang mengarahkan bagaimana pengetahuan yang sudah dimiliki LLM digunakan dalam situasi tertentu.

Prompt dapat dianalogikan sebagai brief pekerjaan dalam dunia profesional. Seorang ahli (misalnya developer, analis, atau penulis) mungkin memiliki kemampuan yang sangat baik, tetapi tetap membutuhkan arahan yang jelas mengenai:

• apa yang harus dikerjakan,
• untuk siapa hasilnya dibuat,
• data apa yang digunakan,
• dan dalam bentuk apa hasil akhirnya harus disajikan.

Tanpa brief yang jelas, hasil kerja bisa benar secara teknis, tetapi tidak relevan dengan kebutuhan. Hal yang sama terjadi pada LLM: prompt yang baik tidak menambah kemampuan model, tetapi memastikan kemampuan tersebut digunakan secara tepat sasaran.

Bagaimana Prompt Memengaruhi Jawaban LLM?

Sebelum diproses, prompt dipecah menjadi unit-unit yang disebut token. Token tersebut kemudian diubah menjadi representasi numerik dan diproses oleh model.

Secara sederhana, alurnya adalah sebagai berikut:

Prompt memengaruhi jawaban karena setiap token di dalamnya menjadi bagian dari kondisi yang digunakan model untuk menghasilkan token berikutnya.

Bandingkan dua contoh berikut.

Prompt umum:

Jelaskan cloud computing.

Prompt lebih terarah:

Jelaskan cloud computing kepada pemilik usaha kecil dalam tiga paragraf. Gunakan satu analogi sederhana dan jelaskan setiap istilah teknis.

Prompt kedua memberikan lebih banyak sinyal mengenai audiens, panjang jawaban, gaya, dan tingkat detail yang diinginkan.

Namun, prompt yang lebih panjang tidak selalu lebih baik. Informasi yang tidak relevan dapat mengganggu fokus model, meningkatkan penggunaan token, dan memenuhi context window tanpa memberi manfaat tambahan.

Komponen Prompt yang Baik

Prompt sederhana tidak selalu membutuhkan struktur lengkap. Namun, dalam konteks penggunaan LLM di aplikasi nyata, seperti chatbot, sistem otomatisasi, atau AI agent, prompt yang baik biasanya disusun dari beberapa komponen agar model memiliki arah yang jelas, konteks yang cukup, dan batasan yang terkontrol. Tanpa komponen ini, hasil model cenderung kurang konsisten atau terlalu umum.

1. Tujuan atau Tugas

Tujuan adalah inti dari prompt, yaitu apa yang ingin dilakukan oleh model. Komponen ini sangat penting karena LLM tidak secara otomatis mengetahui maksud pengguna jika instruksinya terlalu umum.

Gunakan kata kerja yang menjelaskan tindakan secara spesifik agar model tidak menebak-nebak maksudnya.

Contoh:

• Ringkas dokumen.
• Klasifikasikan tiket pelanggan.
• Ekstrak data invoice.
• Bandingkan dua produk.
• Periksa penyebab error.
• Buat draf email.

Instruksi seperti “analisis data ini” terlalu luas karena tidak menjelaskan output yang diharapkan. Model bisa saja memberikan ringkasan, insight, atau bahkan interpretasi bebas.

Instruksi yang lebih baik akan lebih terarah, misalnya:

Temukan tiga perubahan terbesar dari data bulanan berikut dan hitung persentase perubahannya.

Dengan tujuan yang jelas, model dapat mengurangi ambiguitas dan menghasilkan jawaban yang lebih sesuai kebutuhan.

2. Konteks

Konteks adalah informasi pendukung yang membantu model memahami situasi di balik tugas. Tanpa konteks, LLM hanya mengandalkan pengetahuan umum dari data pelatihannya, yang mungkin tidak relevan dengan kasus spesifik pengguna.

Konteks dapat berupa:

• Latar belakang masalah.
• Target pembaca.
• Informasi produk.
• Kebijakan perusahaan.
• Dokumen pendukung.
• Riwayat percakapan.
• Hasil pencarian atau API.

Sebagai contoh, permintaan “buatkan deskripsi produk” akan menghasilkan hasil yang sangat berbeda jika ditambahkan konteks:

• Produk untuk pemula vs profesional.
• Target pasar Indonesia vs global.
• Gaya bahasa formal vs santai.

LLM tidak memiliki akses otomatis ke data internal perusahaan atau informasi real-time. Karena itu, data tersebut harus disediakan secara eksplisit melalui prompt, database, retrieval system, atau tool eksternal.

Dalam sistem modern, konteks ini sering dikombinasikan dengan pendekatan seperti RAG (Retrieval-Augmented Generation) agar jawaban lebih akurat dan berbasis data aktual.

3. Input yang Diproses

Komponen ini berisi data utama yang akan diolah oleh model. Agar tidak terjadi kebingungan antara instruksi dan data, keduanya perlu dipisahkan dengan jelas.

Pemisahan dapat dilakukan menggunakan heading, tanda kutip, atau delimiter.

Contoh:

Dengan struktur seperti ini, model dapat membedakan mana instruksi (apa yang harus dilakukan) dan mana data (apa yang harus diproses).

Dalam aplikasi skala besar, pemisahan ini sangat penting karena input sering berasal dari berbagai sumber seperti database, API, atau file pengguna.

4. Batasan

Batasan berfungsi untuk mengontrol ruang lingkup jawaban model. Tanpa batasan, model cenderung memberikan jawaban terlalu panjang, terlalu umum, atau bahkan menyertakan informasi yang tidak relevan.

Contoh batasan:

• Gunakan maksimal 150 kata.
• Jangan menambahkan informasi di luar dokumen.
• Jangan menampilkan data pribadi.
• Jelaskan setiap istilah teknis.
• Jika data tidak tersedia, nyatakan bahwa informasi tidak ditemukan.

Batasan ini membantu menjaga konsistensi output, terutama dalam sistem produksi seperti customer service automation atau data extraction pipeline.

Namun, penting untuk dipahami bahwa batasan dalam prompt bukan mekanisme keamanan absolut. Model tetap perlu diawasi oleh sistem backend, validasi output, atau aturan bisnis tambahan untuk memastikan hasil sesuai standar.

5. Format Output

Format output menentukan bagaimana hasil harus disusun. Komponen ini sangat penting dalam sistem yang membutuhkan integrasi dengan aplikasi lain.

Format dapat berupa:

• Paragraf.
• Daftar.
• Tabel.
• HTML.
• CSV.
• JSON.

Untuk workflow otomatis, format terstruktur seperti JSON lebih disukai karena mudah diproses oleh backend. Kamu dapat mempelajari dasar struktur JSON apabila output model perlu digunakan oleh aplikasi lain.

Contoh:

Dalam praktiknya, backend tetap harus melakukan validasi karena LLM dapat menghasilkan format yang tidak sempurna, seperti field yang hilang, struktur tidak valid, atau nilai yang tidak sesuai skema.

6. Contoh

Contoh (few-shot atau one-shot) membantu model memahami pola jawaban yang diharapkan. Ini sangat berguna ketika format output harus konsisten atau ketika klasifikasi memiliki banyak kategori.

Contoh input dan output:

Dengan contoh seperti ini, model tidak hanya memahami instruksi, tetapi juga melihat pola konkret dari hasil yang diinginkan.

Teknik ini disebut one-shot atau few-shot prompting, tergantung jumlah contoh yang diberikan. Pendekatan ini sering digunakan dalam sistem klasifikasi, ekstraksi data, dan chatbot berbasis AI.

Contoh penerapan prompt pada aplikasi AI juga dapat dipelajari melalui panduan cara menggunakan prompt Gemini.

Dari Prompt ke Tindakan dengan MCP

Prompt menjelaskan apa yang perlu dilakukan oleh AI. Namun, prompt saja tidak otomatis memberikan akses ke file website, database, DNS, atau sistem eksternal.

Agar aplikasi AI dapat menggunakan data dan menjalankan fungsi tertentu, dibutuhkan integrasi dengan tool. Salah satu standar yang digunakan untuk kebutuhan tersebut adalah Model Context Protocol atau MCP.

MCP merupakan protokol terbuka yang menstandarkan cara aplikasi AI terhubung dengan sumber data dan tool eksternal. MCP dapat mengekspos resources, tools, dan prompt template kepada aplikasi AI melalui arsitektur host, client, dan server.

Penjelasan lebih lengkap mengenai komponen dan alurnya dapat dibaca pada artikel apa itu MCP.

Sebagai contoh, pengguna dapat memberikan prompt:

Periksa document root domain utama dan tampilkan file konfigurasi yang tersedia. Jangan mengubah atau menghapus file.

Prompt tersebut menjelaskan tujuan dan batasan. Sementara itu, MCP menyediakan koneksi dan tool yang dibutuhkan untuk membaca informasi dari sistem hosting.

Web Hosting Nimbus DomaiNesia menyediakan AI Agent Access berbasis MCP. Fitur ini memungkinkan aplikasi AI yang kompatibel terhubung dengan area hosting seperti Files, Databases, Domains & DNS, dan Git deploy. Tindakan yang tersedia mengikuti level akses yang dipilih pengguna.

Prompt yang tepat dapat membantu AI memahami pekerjaan, sedangkan MCP memberinya jalur terkontrol untuk berinteraksi dengan website. Gunakan Web Hosting DomaiNesia untuk menghubungkan aplikasi AI yang kompatibel dengan file, database, domain, DNS, dan workflow Git deploy melalui AI Agent Access.

Jenis Prompt dalam Aplikasi LLM

Dalam chatbot, pengguna biasanya hanya melihat satu kolom pesan. Namun, aplikasi dapat menggabungkan beberapa jenis input sebelum permintaan dikirim ke model.

1. System Prompt

System prompt mengatur perilaku umum model, seperti:

• Peran yang harus dijalankan.
• Gaya komunikasi.
• Sumber informasi yang diprioritaskan.
• Format jawaban.
• Kondisi eskalasi.

System prompt bukan mekanisme keamanan tunggal. Backend tetap harus mengatur autentikasi, otorisasi, izin tool, dan validasi data.

2. User Prompt

User prompt adalah permintaan yang dikirim oleh pengguna.

Contoh:

Bagaimana cara mengubah alamat email akun?

Aplikasi dapat menggabungkannya dengan system prompt, histori, dan dokumen pendukung.

3. Retrieved Context

Aplikasi dapat mencari dokumen yang relevan, lalu menambahkannya ke konteks model.

Pendekatan ini umum digunakan dalam Retrieval-Augmented Generation atau RAG. Retrieved context membantu model menggunakan data tambahan, tetapi kualitas jawaban tetap bergantung pada relevansi dan kebenaran dokumen.

4. Tool Result

LLM dapat meminta aplikasi menjalankan tool, seperti:

• Membaca database.
• Memanggil API.
• Melakukan perhitungan.
• Mengambil status transaksi.
• Memeriksa file website.

Hasil tool kemudian dimasukkan kembali ke konteks agar model dapat menyusun jawaban.

Bidang yang memungkinkan komputer memproses dan menghasilkan bahasa manusia berkaitan dengan Natural Language Processing.

Zero-Shot, One-Shot, dan Few-Shot Prompting

Teknik prompting dapat dibedakan berdasarkan jumlah contoh yang diberikan.

Zero-shot prompting tidak memberikan contoh.

Klasifikasikan ulasan berikut sebagai positif, netral, atau negatif.

One-shot prompting memberikan satu contoh.

Few-shot prompting memberikan beberapa contoh agar model memahami label, gaya, atau format yang diinginkan.

Contoh harus dipilih dengan hati-hati. Contoh yang tidak konsisten dapat membuat model mengikuti pola yang salah.

Hubungan Prompt, Context Window, dan Fine-Tuning

Context window adalah kapasitas token yang dapat dipertimbangkan model dalam satu proses.

Kapasitas tersebut dapat digunakan oleh:

• System prompt.
• User prompt.
• Riwayat percakapan.
• Dokumen tambahan.
• Contoh.
• Hasil tool.
• Respons yang sedang dihasilkan.

Jika kapasitas terlampaui, aplikasi dapat meringkas histori, membatasi dokumen, memotong input, atau membagi tugas menjadi beberapa proses.

Prompt juga berbeda dengan fine-tuning.

Prompting biasanya menjadi langkah awal karena lebih cepat diuji dan diubah. Fine-tuning dipertimbangkan ketika perilaku khusus perlu diterapkan secara konsisten pada banyak kasus.

Keamanan Prompt dan Akses Tool

Prompt injection terjadi ketika input pengguna atau dokumen mencoba memengaruhi model agar mengabaikan instruksi aplikasi, membuka informasi sensitif, atau menjalankan tindakan yang tidak semestinya.

Risiko dapat berasal dari:

• Pesan pengguna.
• Dokumen yang diunggah.
• Halaman website.
• Email.
• Hasil pencarian.
• Output tool lain.

System prompt saja tidak cukup untuk mencegah serangan tersebut. OWASP merekomendasikan kontrol seperti pemisahan input tidak tepercaya, pembatasan hak akses, validasi, logging, dan persetujuan manusia untuk tindakan berisiko tinggi.

Ketika menggunakan MCP, pilih level akses paling rendah yang masih dapat menyelesaikan pekerjaan. Spesifikasi MCP juga menekankan persetujuan pengguna, kontrol terhadap data yang dibagikan, serta kehati-hatian ketika tool dapat menjalankan kode atau mengakses sistem.

Cara Menguji Kualitas Prompt

Prompt yang bekerja pada satu contoh belum tentu bekerja pada seluruh kondisi.

Gunakan beberapa langkah berikut.

1. Siapkan Dataset Evaluasi

Gunakan kasus yang bervariasi, seperti:

• Input normal.
• Data tidak lengkap.
• Pertanyaan ambigu.
• Input sangat panjang.
• Permintaan di luar cakupan.
• Prompt injection.
• Dokumen yang bertentangan.

2. Tentukan Kriteria

Kriteria dapat mencakup:

• Kebenaran.
• Relevansi.
• Kepatuhan terhadap instruksi.
• Konsistensi format.
• Keamanan.
• Latency.
• Jumlah token.

3. Ubah Satu Komponen

Hindari mengubah model, prompt, parameter, dan sumber data secara bersamaan. Ubah satu komponen agar penyebab perubahan hasil dapat dianalisis.

4. Simpan Versi Prompt

Catat versi prompt, model, parameter, hasil evaluasi, tanggal perubahan, dan alasan perubahan.

5. Pantau Hasil Produksi

Monitoring membantu menemukan format yang sering gagal, pertanyaan yang tidak terjawab, peningkatan biaya token, dan permintaan berbahaya.

Kesimpulan

LLM membutuhkan prompt untuk mengetahui tugas, konteks, batasan, dan bentuk output yang diharapkan. Prompt membantu model mengarahkan kemampuan umum yang diperoleh selama pelatihan ke kebutuhan tertentu.

Prompt dapat mencakup instruksi, pertanyaan, dokumen, contoh, histori, serta hasil tool. Namun, prompt tidak mengubah parameter model secara permanen dan tidak menjamin jawaban selalu benar.

Ketika AI membutuhkan data aktual atau perlu menjalankan tindakan pada sistem lain, aplikasi memerlukan retrieval, API, atau MCP. Dalam proses tersebut, prompt mengarahkan pekerjaan, MCP menghubungkan AI dengan tool, dan backend menjaga validasi serta keamanan.