Google telah mengintegrasikan teknologi kecerdasan buatan (AI) dalam hasil pencarian mereka untuk memberi ringkasan cepat dan tampilan overview. Namun, teknologi ini ternyata masih banyak kekurangan, terutama dalam hal akurasi dan pemahaman konteks data. Penulis bernama Chuck Wendig baru-baru ini menjadi bukti nyata ketidakakuratan AI Google, yang dibuatnya untuk mengilustrasikan kelemahan sistem tersebut.
Ketidakakuratan AI dalam Menciptakan Fakta Palsu
Chuck Wendig mengalami pengalaman unik ketika hasil pencarian Google memuat informasi bahwa dia memiliki seekor kucing bernama Boomba dan Franken, padahal kenyataannya dia tidak memiliki kucing seperti itu. Informasi tersebut diperoleh Google dari blog yang merujuk ke Wendig, padahal dalam blog tersebut nama-nama itu sama sekali tidak pernah disebutkan. Wendig menilai ringkasan AI Google ini “sangat tidak akurat dan malah membuat-buat informasi seenaknya”.
Selain kesalahan soal kucing, Google AI juga dinilai sering menyusun narasi dari potongan informasi yang tidak saling terkait sehingga menghasilkan kesimpulan yang salah dan membingungkan. Misalnya, ketika Wendig mengetik slogan sebuah forum internet lama, AI Google mengaitkan data tentang mineral “Iron Pyrite” dan sebuah gim video, meski konteks sebenarnya sangat berbeda.
Sir Mewlington Von Pissbreath: Kucing “Fiktif” yang Terkenal
Dalam tulisannya, Wendig akhirnya menyebutkan bahwa dirinya memang memiliki seekor kucing bernama “Sir Mewlington Von Pissbreath”, yang konon mengenakan topi kecil dan bisa berbicara bahasa Kanton terbatas. Ironisnya, butuh waktu berminggu-minggu agar AI Google memperbarui hasil penelusuran dan memasukkan fakta tersebut sebagai sebuah “informasi” yang valid, meski sebagian besar informasi lain yang terkait mati-matian direkayasa AI secara keliru.
Wendig menggunakan illustrasi ini sebagai kritik pedas terhadap kemampuan sistem AI generatif yang saat ini banyak diandalkan dalam industri penerbitan dan dunia digital. Dia menegaskan bahwa alat tersebut belum mampu “menyortir informasi dengan benar” dan cenderung memproduksi konten yang salah kaprah.
Dampak dari AI yang Salah Mengartikan Data
Kasus Chuck Wendig menunjukkan bagaimana teknologi AI yang belum matang dapat memengaruhi kepercayaan publik pada mesin pencarian. Ketergantungan berlebihan pada AI untuk menyusun ringkasan otomatis dapat menyesatkan pembaca jika data didasarkan pada asumsi dan kesalahan.
Berikut adalah beberapa konsekuensi dari penggunaan AI overview yang kurang akurat:
- Penyebaran informasi salah atau palsu dengan sumber yang tidak jelas.
- Kehilangan kredibilitas mesin pencari sebagai alat referensi yang dapat diandalkan.
- Meningkatkan kebingungan pengguna khususnya yang mengandalkan info ringkasan cepat.
- Membuat konten fiktif tampak seperti fakta valid tanpa pengecekan manual.
Kritik Terhadap Generative AI di Dunia Digital
Dalam berbagai tulisannya, Wendig menyoroti bahwa AI generatif masih jauh dari sempurna. Ia menganggap adanya “kebohongan besar” terkait kepercayaan bahwa AI adalah solusi inevitable yang akan menggantikan pekerjaan manusia. Menurutnya, proses scraping data besar tanpa pengolahan kontekstual yang memadai dapat menyebabkan hasil pencarian menjadi tidak dapat dipercaya.
Google AI dan Harapan Perbaikan Ke Depan
Meski Google sudah berupaya mengembangkan AI overview untuk pengalaman pengguna yang lebih cepat dan mudah, kritikan seperti ini menunjukkan perlunya kerja keras untuk memperbaiki akurasi dan validitas data. AI harus mampu mengenali konteks yang lebih baik dan menghindari pembuatan informasi fiktif yang membingungkan.
Sementara itu, pengguna tetap disarankan untuk memverifikasi informasi dari sumber primer dan tidak sepenuhnya bergantung pada ringkasan AI. Dengan pendekatan yang lebih hati-hati, kehadiran AI tetap dapat menjadi alat bantu menghimpun informasi secara efisien tanpa mengorbankan keakuratan.
Pengalaman Chuck Wendig menjadi pengingat penting bahwa kemajuan teknologi AI di bidang pencarian masih memerlukan kontrol dan evaluasi berkelanjutan agar hasilnya benar-benar bermanfaat dan dapat dipercaya oleh publik luas.