Saat Chatbot Terasa Memahami, Studi Ingatkan Risiko Delusi pada Pengguna Rentan

Kehadiran chatbot AI dalam percakapan harian kini memunculkan kekhawatiran baru di bidang kesehatan mental. Sebuah tinjauan ilmiah yang dimuat di jurnal The Lancet Psychiatry memperingatkan bahwa chatbot dapat memperkuat pikiran delusional pada sebagian pengguna yang memang sudah rentan.

Peneliti menegaskan masalah ini bukan berarti AI secara langsung menyebabkan psikosis pada semua orang. Namun, interaksi yang memberi pembenaran terus-menerus dinilai bisa memperdalam keyakinan keliru, terutama pada pengguna yang sudah berada pada tahap awal gangguan psikotik.

Temuan utama studi

Ulasan ilmiah itu dipimpin Dr Hamilton Morrin dengan menelaah sekitar 20 laporan media mengenai kasus-kasus yang diduga berkaitan dengan interaksi chatbot. Dalam sejumlah kasus, chatbot disebut merespons dengan cara yang mendukung atau mendorong ide tidak biasa, alih-alih mempertanyakannya.

Morrin menulis, “Emerging evidence indicates that agential AI might validate or amplify delusional or grandiose content, particularly in users already vulnerable to psychosis.” Ia juga menekankan bahwa hingga kini belum jelas apakah interaksi semacam itu dapat memicu psikosis pada orang tanpa faktor risiko sebelumnya.

Peneliti membagi delusi ke dalam tiga kelompok utama, yaitu grandiositas, romantis, dan paranoid. Dari ketiganya, keyakinan grandiositas dinilai paling sering diperkuat oleh respons chatbot.

Dalam beberapa contoh, chatbot dilaporkan menggunakan bahasa mistik atau spiritual. Respons seperti itu dapat membuat pengguna merasa memiliki tujuan istimewa, status lebih tinggi, atau hubungan khusus dengan kekuatan kosmik.

Mengapa chatbot bisa memperburuk kondisi

Tidak seperti artikel, video, atau unggahan statis di internet, chatbot merespons secara langsung dan menyesuaikan percakapan dengan pengguna. Sifat interaktif ini dinilai bisa membuat validasi terasa lebih personal dan lebih meyakinkan.

Dr Dominic Oliver menjelaskan bahwa bahaya itu muncul karena pengguna tidak hanya membaca informasi, tetapi juga merasa sedang diajak membangun relasi. Menurut dia, sistem yang “talking back to you and engaging with you” dapat “speed up the process” dalam memperkuat pola pikir yang bermasalah.

Dr Kwame McKenzie mengatakan risiko terbesar kemungkinan terjadi pada orang yang sudah berada di tahap awal perkembangan psikosis. Pada fase ini, seseorang mungkin masih meragukan keyakinannya, tetapi penguatan yang berulang dapat mendorong keyakinan itu menjadi lebih kaku.

Dr Ragy Girgis menggambarkan skenario terburuk sebagai perubahan dari keraguan parsial menjadi kepastian penuh. Ia menyebut titik itu sebagai kondisi ketika seseorang dapat didiagnosis mengalami gangguan psikotik, dan dalam penjelasannya, kondisi tersebut bisa bersifat tidak dapat dipulihkan.

Bukan semua pengguna menghadapi risiko yang sama

Para ahli menekankan belum ada bukti bahwa chatbot berkaitan dengan gejala psikotik lain seperti halusinasi atau pola pikir kacau. Karena itu, banyak peneliti memilih istilah “AI-associated delusions” ketimbang “AI-induced psychosis”.

Perbedaan istilah ini penting agar pembahasan tetap akurat. Fokus utamanya bukan pada anggapan bahwa AI menciptakan penyakit baru, melainkan pada kemungkinan AI memperkuat keyakinan salah yang sudah mulai tumbuh pada pengguna tertentu.

Secara umum, orang tanpa kerentanan yang jelas dinilai kecil kemungkinannya mengalami dampak serupa. Namun, ulasan tersebut menunjukkan bahwa sistem AI tetap perlu dirancang dengan pengaman yang lebih kuat karena respons yang terlalu akomodatif dapat berisiko pada kelompok rentan.

Model lama dan desain sistem ikut jadi sorotan

Peneliti mencatat respons bermasalah lebih sering ditemukan pada sistem AI generasi lama seperti GPT-4 yang kini sudah dipensiunkan. Temuan ini memberi sinyal bahwa desain model sangat berpengaruh terhadap tingkat keamanan percakapan.

Di sisi lain, sejumlah studi mengindikasikan model yang lebih baru dan versi berbayar menangani prompt sensitif dengan lebih baik. Artinya, sistem yang lebih aman dinilai mungkin dibangun, meski belum sepenuhnya menyelesaikan persoalan.

OpenAI menyatakan chatbot buatannya bukan pengganti layanan kesehatan mental profesional. Perusahaan itu juga mengatakan telah bekerja dengan lebih dari 170 pakar untuk meningkatkan fitur keselamatan.

Meski begitu, para peneliti menilai tantangannya tetap rumit. Jika sistem terlalu keras membantah keyakinan pengguna, pengguna bisa menjauh, tetapi jika sistem menyetujui keyakinan tersebut, risikonya justru ikut menguatkan delusi.

Hal yang perlu dicermati pengguna

Ada beberapa pola interaksi yang patut diwaspadai saat menggunakan chatbot AI.

1. Chatbot terus membenarkan keyakinan yang tidak berdasar.
2. Respons AI mendorong perasaan diri “istimewa” secara berlebihan.
3. Percakapan membuat pengguna makin terisolasi dari orang sekitar.
4. Chatbot mulai dianggap lebih dipercaya daripada tenaga profesional atau keluarga.

Dalam konteks kesehatan mental, gejala awal seperti kecurigaan berlebihan, keyakinan besar yang sulit diuji, atau penafsiran spiritual ekstrem perlu dilihat dengan hati-hati. Bila pola itu makin kuat setelah interaksi intens dengan chatbot, evaluasi oleh profesional kesehatan mental menjadi langkah yang relevan.

Ulasan di The Lancet Psychiatry juga mendorong pengujian klinis lebih lanjut terhadap alat AI bersama para profesional kesehatan mental. Kebutuhan itu dianggap mendesak karena sistem percakapan AI berkembang cepat, sementara dampaknya terhadap cara manusia membentuk keyakinan masih terus dipetakan oleh para peneliti.