BAGAIKAN permainan tebak kata
Bayangkan Anda sedang mengobrol dengan teman yang mulai bercerita: “Kemarin saya pergi ke warung untuk membeli…” Dalam pikiran Anda, beberapa kemungkinan kata-kata yang akan muncul: “makanan”, “minuman”, “rokok”, atau “pulsa”. Semua ini akan tergantung konteksnya.
AI modern bekerja dengan cara serupa, tetapi dengan skala yang jauh lebih besar melalui beberapa tahapan penting:
Menebak dengan konteks
AI tidak hanya melihat kata terakhir, tetapi seluruh konteks sebelumnya. Inilah yang disebut mekanisme attention (perhatian), inovasi penting yang membuat AI modern begitu kuat.
Misalnya dalam kalimat: “Saya melihat jalan yang penuh dengan…”, AI akan memperhatikan kata “melihat” dan “penuh dengan” untuk menentukan bahwa “jalan” yang dimaksud adalah jalan raya, bukan aktivitas berjalan.
Konteks ini membantu AI memahami kata yang tepat mungkin adalah “mobil”, “orang”, atau “pedagang”.
Distribusi probabilitas
AI tidak hanya memilih satu kata, tetapi membuat daftar lengkap semua kata yang mungkin, masing-masing dengan nilai probabilitas. Untuk kalimat: “Saya pergi ke pasar untuk membeli…”, AI akan membuat perhitungan matematis: “sayur” mungkin mendapat probabilitas 30%, “buah” 25%, “ikan” 20%, dan seterusnya.
Pengambilan keputusan
AI kemudian memilih satu kata dari distribusi probabilitas ini. Terkadang ia memilih kata dengan probabilitas tertinggi, terkadang kata yang kurang umum untuk menciptakan teks yang lebih beragam dan kreatif.
Pengulangan proses
Kata yang dipilih ditambahkan ke teks, dan seluruh proses dimulai lagi, dengan mempertimbangkan konteks yang kini semakin panjang.
Memperhatikan apa yang penting: “memahami” konteks
Kemampuan AI modern untuk “memperhatikan” seluruh konteks adalah terobosan besar dalam teknologi pemrosesan bahasa. Sebelum mekanisme attention diperkenalkan pada 2017, sistem AI sebelumnya memiliki “ingatan pendek” yang membatasi kemampuannya memahami konteks panjang.
Mekanisme attention memungkinkan AI “melihat” dan menghubungkan seluruh teks secara simultan, memberikan “bobot perhatian” berbeda pada setiap kata berdasarkan relevansinya.
Perubahan paradigma inilah yang membuat AI modern seperti ChatGPT mampu mempertahankan koherensi dalam teks panjang dan menghasilkan respons yang kontekstual.
Gambar: distribusi matematika untuk memilih kata selanjutnya dalam AI. (YouTube Transformers (how LLMs work) explained visually | DL5)
Sebagai contoh, dalam pertanyaan: “Apa resep nasi goreng dan bagaimana cara membuatnya agar tidak terlalu berminyak?” AI akan memberikan perhatian tinggi pada “nasi goreng” (topik utama), “resep” (apa yang dicari), dan “tidak terlalu berminyak” (aspek spesifik), sementara memberikan perhatian lebih rendah pada kata-kata penghubung. Dengan cara ini, AI bisa menemukan informasi yang relevan dan memberi respons yang tepat.
Gambar: mekanisme attention untuk hubungan keterkaitan antar bagian dalam AI.
Baca juga: Bagaimana AI “Berpikir”: Mengenal Cara Kerja Kecerdasan Buatan (1)
