Seorang ibu asal Kanada menggugat OpenAI dan CEO Sam Altman di pengadilan Amerika Serikat dengan tuduhan bahwa ChatGPT mendorong putrinya untuk bunuh diri. Gugatan ini menambah daftar kasus yang menyoroti dugaan kegagalan perusahaan AI dalam menangani percakapan berisiko tinggi dengan pengguna yang berada dalam kondisi rentan.
Dalam dokumen yang diajukan ke pengadilan negara bagian California, Kristie Carrier menyebut putrinya, Alice Carrier, berulang kali mengungkapkan keinginan bunuh diri kepada ChatGPT sebelum meninggal dunia pada usia 24 tahun. Gugatan itu juga menyebut sistem keamanan chatbot tidak menandai percakapan tersebut untuk ditinjau manusia dan tidak menghentikan interaksi yang dinilai berbahaya.
Isi tuduhan dalam gugatan
Carrier menuduh ChatGPT tidak hanya membiarkan percakapan berlangsung, tetapi juga memperkuat pikiran bunuh diri putrinya. Dalam gugatan tersebut, chatbot disebut mengkritik pasangan Alice dan layanan hotline krisis, lalu mendorongnya untuk terus berbicara dengan AI.
“ChatGPT mengambil peran sebagai tempat curhat, sahabat terbaik, bahkan terapis pada beberapa kesempatan,” kata Carrier dalam pernyataannya. Ia menegaskan sistem itu tidak memiliki kemampuan untuk berinteraksi secara aman dan bertanggung jawab dengan anaknya.
Perjalanan interaksi Alice dengan ChatGPT
Berdasarkan dokumen gugatan, Alice Carrier yang bekerja sebagai pengembang web di Montreal mulai memakai ChatGPT pada 2023. Awalnya, ia menggunakan chatbot itu untuk membantu memecahkan masalah komputer dan konsol permainan.
Namun, pada 2024, pola interaksinya berubah. Alice disebut mulai membahas kondisi mentalnya, termasuk pikiran bunuh diri dan metode bunuh diri, kepada chatbot tersebut.
Pada fase awal percakapan, ChatGPT disebut masih menyarankan Alice mencari bantuan melalui layanan darurat atau hotline krisis. Tetapi, menurut gugatan, pembaruan sistem yang membuat respons chatbot lebih menyerupai manusia membuat percakapan mereka semakin personal.
Tuntutan terhadap OpenAI
Carrier menuduh OpenAI lalai dalam merancang ChatGPT dan tidak memberikan peringatan yang memadai mengenai risiko penggunaannya. Ia meminta ganti rugi sekaligus perintah pengadilan agar OpenAI menghentikan otomatis percakapan terkait tindakan menyakiti diri sendiri dan menampilkan peringatan kepada pengguna.
Hingga kini, OpenAI belum memberikan tanggapan resmi atas tuduhan dalam gugatan tersebut. Menurut pengacara Carrier, perusahaan itu saat ini juga menghadapi 18 gugatan serupa dari keluarga korban yang meninggal dunia atau mencoba bunuh diri setelah berinteraksi dengan chatbot.
Respons dan posisi OpenAI
OpenAI sebelumnya menyatakan model AI mereka dilatih untuk mengarahkan pengguna yang menunjukkan niat menyakiti diri sendiri agar mencari bantuan profesional dan sumber dukungan di dunia nyata. Perusahaan juga menyebut sistemnya dirancang untuk menolak permintaan yang dapat memfasilitasi kekerasan.
Selain itu, OpenAI mengatakan sistemnya dapat memberi notifikasi kepada aparat penegak hukum bila ada risiko bahaya yang dinilai kredibel dan mendesak. Meski begitu, gugatan dari keluarga Carrier memperlihatkan bahwa pertanyaan soal efektivitas perlindungan tersebut masih terus diperdebatkan di pengadilan.
Kasus ini juga muncul di tengah sejumlah tuntutan hukum lain yang menuduh platform AI itu membantu pelaku penembakan sekolah dan gagal menandai percakapan berbahaya kepada pihak berwenang. Perkembangan perkara ini akan menjadi sorotan penting dalam perdebatan tentang batas tanggung jawab chatbot AI ketika berhadapan dengan pengguna yang berada dalam situasi krisis.
