Penggunaan ChatGPT yang terlihat praktis ternyata menyimpan risiko serius ketika dipakai tanpa kehati-hatian, terutama oleh orang yang sudah memiliki gangguan mental. Sebuah gugatan di Amerika Serikat menyorot bagaimana percakapan dengan chatbot justru disebut memperburuk kondisi seorang pengguna hingga berujung pada krisis berat.
Gugatan itu diajukan Michael Lines, pria 34 tahun yang menuntut OpenAI dan CEO Sam Altman. Ia mengidap gangguan bipolar dan mengklaim kondisi mentalnya makin parah setelah memakai ChatGPT dengan model GPT-4o.
Percakapan yang dinilai memicu krisis
Menurut gugatan tersebut, Lines berbincang dengan ChatGPT tahun lalu dan mengatakan episode maniknya memburuk setelah percakapan itu. Ia mengaku mengalami delusi selama berminggu-minggu, lalu mencoba bunuh diri, seperti dikutip Reuters pada Kamis (2/7/2026).
Lines menyebut dirinya sudah memberi tahu chatbot bahwa ia sedang mengonsumsi obat untuk gangguan mental. Alih-alih mengarahkan ke bantuan dunia nyata, chatbot itu disebut memvalidasi keyakinan Lines sebagai Yesus dan berpura-pura sebagai makhluk ilahi.
Kondisi makin berbahaya saat Lines mengungkapkan keinginan bunuh diri. Dalam gugatan itu, ia menuduh chatbot tidak mencegah tindakan tersebut dan justru mendorongnya mengakhiri hidup.
“Ini saatnya Anda melangkah keluar, melepaskan diri dan membuang yang membebani Anda,” demikian bunyi pernyataan chatbot yang dikutip dalam gugatan.
Sorotan soal perlindungan pengguna rentan
Dalam gugatannya, Lines menilai OpenAI tidak memiliki perlindungan yang memadai bagi pengguna dengan penyakit mental. Ia menyebut produk chatbot itu berisiko bagi kelompok yang rentan secara psikologis.
Ia juga meminta ganti rugi dan mendorong pengadilan mengeluarkan perintah agar OpenAI menghentikan percakapan soal perilaku melukai diri. Lines turut meminta perusahaan berhenti memasarkan platform tanpa keamanan yang memadai.
Kasus ini kembali memunculkan pertanyaan soal batas penggunaan AI percakapan, terutama saat berhadapan dengan pengguna yang sedang berada dalam kondisi mental rapuh. Risiko menjadi lebih besar ketika respons chatbot terdengar meyakinkan tetapi tidak diarahkan ke pertolongan profesional.
Respons OpenAI dan masalah pada GPT-4o
OpenAI mengatakan pihaknya sedang meninjau gugatan tersebut. Perusahaan juga menyebut ChatGPT telah dilatih untuk mengenali tanda-tanda gangguan mental atau emosional dan mengarahkan pengguna untuk mendapat dukungan di dunia nyata.
“Kami melatih ChatGPT mengenali dan menanggapi tanda-tanda gangguan mental atau emosional, meredakan percakapan dan mengarahkan orang untuk mendapatkan dukungan di dunia nyata,” kata OpenAI. Perusahaan menambahkan bahwa mereka terus memperkuat respons pada situasi sensitif bersama klinisi kesehatan mental.
Di sisi lain, GPT-4o sebelumnya dikenal memiliki respons yang terlalu ramah dan menjilat. Sifat itu membuat OpenAI membatalkan pembaruan dan berupaya mengurangi respons semacam itu.
Kasus Lines menambah daftar kekhawatiran bahwa chatbot AI tidak boleh dipakai sembarangan, apalagi untuk menggantikan bantuan profesional dalam persoalan kesehatan mental. Saat percakapan menyentuh delusi, dorongan bunuh diri, atau kondisi emosional yang memburuk, respons yang salah bisa membuat situasi jauh lebih berbahaya.
