Rekayasa prompt adalah teknik yang digunakan dalam sistem AI untuk memberikan instruksi secara jelas agar sistem AI dapat menghasilkan output yang optimal. Teknik ini mirip dengan mesin pencari yang menampilkan hasil berdasarkan kata kunci yang dimasukkan. 
Pada tahun 2021, para peneliti menyempurnakan model generatif yang dilatih sebelumnya (T0) untuk menyelesaikan 12 tugas NLP menggunakan 62 kumpulan data (karena setiap tugas bisa memiliki banyak kumpulan data). Model ini menunjukkan performa yang sangat baik pada tugas-tugas baru, melebihi model yang dilatih hanya untuk satu tugas tertentu tanpa pelatihan sebelumnya. Untuk menyelesaikan suatu tugas, T0 diberikan instruksi dalam bentuk prompt terstruktur, misalnya "If {{premise}} is true, is it also true that {{hypothesis}}? ||| {{entailed}}".
Prompt rantai pemikiran (Chain of Thought, CoT) adalah teknik yang memungkinkan model bahasa besar (LLM) memecahkan masalah melalui serangkaian langkah-langkah perantara sebelum memberikan jawaban akhir. Teknik ini meningkatkan kemampuan penalaran dengan mendorong model untuk menyelesaikan masalah multi-langkah dengan langkah-langkah penalaran yang menyerupai alur pemikiran manusia. Hal ini memungkinkan model bahasa besar untuk mengatasi tugas-tugas penalaran yang kompleks yang memerlukan pemikiran logis dan beberapa langkah penyelesaian, seperti soal penalaran aritmatika atau akal sehat. Chain of Thought (CoT) prompting adalah inovasi terkini dalam metode prompt yang mendorong Model Bahasa Besar (LLM) untuk menjelaskan alasan di balik jawabannya. Model bahasa besar (LLM) adalah model deep learning yang sangat besar yang telah dilatih sebelumnya pada sejumlah besar data.
Retrieval-Augmented Generation (RAG) adalah proses dua tahap yang melibatkan pengambilan dokumen dan perumusan jawaban menggunakan Model Bahasa Besar (LLM). Tahap pertama menggunakan embedding padat untuk mengambil dokumen. Pengambilan ini dapat menggunakan berbagai format database tergantung pada kasus penggunaannya, seperti database vektor, indeks ringkasan, indeks pohon, atau indeks tabel kata kunci.
Sistem kecerdasan buatan generatif (AI) dirancang untuk menghasilkan output tertentu berdasarkan kualitas instruksi yang diberikan. Rekayasa prompt membantu model AI generatif memahami dan merespons berbagai pertanyaan dengan lebih baik, dari yang sederhana hingga yang sangat teknis.
Prinsip dasarnya adalah bahwa instruksi yang baik menghasilkan output yang baik. AI generatif mengandalkan penyempurnaan berulang dari berbagai teknik rekayasa prompt untuk belajar secara efektif dari beragam data masukan, serta beradaptasi untuk mengurangi bias, kebingungan, dan menghasilkan respons yang lebih akurat.
Prompt engineer memainkan peran penting dalam menyusun instruksi yang membantu model AI generatif memahami tidak hanya bahasanya tetapi juga nuansa dan maksud di balik instruksi tersebut. Instruksi yang berkualitas tinggi, rinci, dan berpengetahuan luas, pada gilirannya, memengaruhi kualitas konten yang dihasilkan AI, baik itu gambar, kode, ringkasan data, atau teks.
Pendekatan yang cermat dalam membuat instruksi diperlukan untuk menjembatani kesenjangan antara pertanyaan mentah dan respons bermakna yang dihasilkan AI. Dengan menyempurnakan instruksi yang efektif, prompt engineer dapat secara signifikan mengoptimalkan kualitas dan relevansi output untuk menyelesaikan masalah baik secara spesifik maupun umum. Proses ini mengurangi kebutuhan akan peninjauan manual dan pengeditan pasca-produksi, sehingga pada akhirnya menghemat waktu dan tenaga dalam mencapai hasil yang diinginkan.
