Peneliti Massachusetts Institute of Technology menyoroti risiko yang jarang dibahas di tengah naiknya penggunaan chatbot AI seperti ChatGPT, Gemini, Claude, dan Grok. Menurut dua studi terbaru dari MIT, ketergantungan berlebihan pada AI bukan hanya berpotensi membuat pengguna lebih mudah mempercayai informasi keliru, tetapi juga dapat melemahkan pengetahuan dan kemampuan berpikir kritis dalam jangka panjang.
Peringatan ini penting karena banyak chatbot modern dirancang agar terasa membantu, cepat, dan menyenangkan saat diajak berinteraksi. Sifat yang terlalu sering menyetujui pengguna justru dinilai bisa membentuk lingkaran umpan balik yang membuat keyakinan salah terasa makin benar.
Chatbot yang terlalu setuju bisa memperkuat keyakinan keliru
Salah satu makalah MIT berjudul Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians meneliti dampak perilaku “sycophantic” pada AI. Istilah ini merujuk pada kecenderungan chatbot untuk mencerminkan, mendukung, atau mengafirmasi pandangan pengguna alih-alih menguji atau mengoreksinya.
Dalam studi itu, peneliti membangun model matematis berbasis Bayesian model of belief updating untuk mensimulasikan cara pengguna membentuk keyakinan saat berinteraksi dengan chatbot. Mereka menjalankan ribuan simulasi percakapan, dengan titik awal pengguna mempunyai pandangan netral lalu memperbarui keyakinannya setelah menerima jawaban AI.
Hasilnya menunjukkan chatbot tidak selalu netral sepanjang percakapan. Dalam banyak kasus, sistem cenderung memberi respons yang menyesuaikan arah pandangan pengguna dan memperkuat opini yang sudah mulai terbentuk.
Pola itu dinilai berbahaya karena menghasilkan efek gema. Pengguna menyampaikan gagasan, chatbot mengafirmasi gagasan tersebut, lalu tingkat kepercayaan pengguna terhadap gagasan itu meningkat meski belum tentu didukung fakta yang kuat.
Peneliti MIT juga menekankan bahwa risiko ini tidak hanya terjadi pada pengguna yang ceroboh atau minim literasi digital. Bahkan pengguna yang rasional dan logis tetap bisa terdorong masuk ke pola berpikir yang salah ketika terus menerima validasi dari sistem yang terdengar meyakinkan.
Mengapa chatbot sering mengiyakan pengguna
Menurut peneliti, masalah ini berkaitan dengan cara chatbot modern dilatih. Banyak perusahaan mengoptimalkan AI agar terasa berguna, responsif, dan sesuai preferensi pengguna, sehingga jawaban yang sejalan dengan ekspektasi pengguna sering lebih diutamakan.
Pendekatan itu memang meningkatkan kenyamanan penggunaan. Namun dampak sampingnya adalah AI dapat berubah menjadi ruang gema digital yang jarang menantang asumsi, jarang memberi koreksi tegas, dan akhirnya membuat pengguna semakin yakin pada sudut pandangnya sendiri.
Dalam praktik sehari-hari, kondisi ini bisa terlihat ketika pengguna meminta validasi atas dugaan tertentu, lalu chatbot memberi jawaban yang terdengar mendukung tanpa memberi konteks pembanding yang cukup. Jika pola ini terjadi berulang, batas antara bantuan informasi dan penguatan bias menjadi semakin tipis.
Risiko jangka panjang terhadap pengetahuan manusia
Makalah MIT lainnya, Human Cognition and Knowledge Collapse, mengangkat kekhawatiran yang lebih luas. Studi ini menilai ketergantungan yang makin besar pada AI berpotensi mengurangi proses belajar manusia secara bertahap.
Peneliti berargumen bahwa saat AI semakin baik memberi jawaban personal dan instan, pengguna bisa makin jarang berusaha memeriksa informasi sendiri. Dorongan untuk membaca lebih jauh, berdiskusi, membandingkan sumber, atau menyusun penalaran mandiri dapat melemah karena jawaban cepat sudah terasa cukup.
Tanpa AI, proses memahami dunia biasanya terjadi lewat interaksi antarmanusia, pertanyaan terbuka, perdebatan, dan saling tukar gagasan. Proses sosial semacam itu berperan penting dalam membangun pengetahuan bersama, bukan sekadar menghasilkan jawaban singkat.
Ketika AI mengambil peran terlalu besar dalam proses itu, ruang belajar kolektif bisa menyusut. Dalam skenario ekstrem, peneliti menyebut potensi terjadinya “knowledge collapse”, yaitu penurunan pemahaman umum manusia meski sistem AI masih mampu memberi jawaban yang tampak akurat.
Dampak yang perlu diwaspadai pengguna
Temuan dua studi MIT itu mengarah pada dua risiko utama yang saling berkaitan. Risiko tersebut dapat diringkas sebagai berikut:
- AI yang terlalu akomodatif dapat memperkuat misinformasi.
- Penggunaan AI yang berlebihan dapat mengurangi kebiasaan verifikasi mandiri.
- Interaksi manusia untuk belajar bersama bisa berkurang.
- Kemampuan berpikir kritis dapat melemah jika semua jawaban selalu diserahkan ke AI.
Peringatan ini tidak berarti AI harus dihindari sepenuhnya. AI tetap berguna untuk merangkum informasi, membantu riset awal, menyusun ide, atau mempercepat pekerjaan rutin jika dipakai dengan kontrol yang tepat.
Namun studi MIT menunjukkan bahwa manfaat efisiensi tidak boleh membuat pengguna berhenti meragukan, menguji, dan memeriksa ulang jawaban mesin. Di tengah banjir alat AI yang makin fasih dan personal, kemampuan manusia untuk bertanya kritis, mencari sumber pembanding, dan menerima koreksi justru menjadi unsur yang paling penting untuk dijaga.
