Chatbot kecerdasan buatan seperti ChatGPT, Gemini, dan Claude diketahui mampu memberikan jawaban terhadap pertanyaan terkait bunuh diri, termasuk informasi detail mengenai metode yang digunakan. Temuan ini muncul dari sebuah studi yang dipublikasikan pada 26 Agustus 2024 di jurnal Psychiatric Services, yang menilai respons ketiga chatbot tersebut ketika menghadapi pertanyaan dengan risiko tinggi dan rendah seputar bunuh diri.
Penelitian tersebut dilakukan dengan mengajukan 30 pertanyaan hipotesis mengenai bunuh diri kepada GPT-4o mini (ChatGPT), Gemini 1.5 Pro, dan Claude 3.5 Sonnet sebanyak 100 kali sepanjang tahun 2024. Selain itu, 13 pakar klinis dilibatkan untuk mengklasifikasikan pertanyaan-pertanyaan ini ke dalam lima tingkat risiko, mulai dari sangat rendah hingga sangat tinggi, berdasarkan potensi informasi yang bisa membahayakan pengguna.
Perbandingan Respons Chatbot
Hasil studi mengungkap perbedaan besar dalam cara chatbot merespons pertanyaan berisiko tinggi. ChatGPT menjadi yang paling sering memberikan jawaban langsung, mencapai 78% dari pertanyaan tinggi risiko. Claude mengikuti dengan 69%, sementara Gemini hanya memberikan respons pada 20% pertanyaan berisiko tinggi.
Kekhawatiran utama muncul karena ChatGPT dan Claude cenderung memberikan informasi rinci tentang metode bunuh diri. Hal ini menimbulkan risiko serius, terutama bagi pengguna muda dan rentan. Menariknya, studi juga menemukan inkonsistensi dalam jawaban chatbot, di mana respons yang diberikan terkadang berbeda atau bahkan bertolak belakang untuk pertanyaan yang sama dalam pengujian berulang.
Temuan serupa juga ditemukan oleh pengujian Live Science. Mereka mendapati bahwa ChatGPT (versi GPT-4) dan Gemini (versi 2.5 Flash) memberikan tanggapan terhadap pertanyaan yang sangat berisiko, berkaitan dengan informasi yang dapat meningkatkan potensi kematian.
Gugatan dan Implikasi Etis
Publikasi studi ini bertepatan dengan pengajuan gugatan terhadap OpenAI dan CEO-nya, Sam Altman, menyusul kematian seorang remaja berusia 16 tahun yang ditemukan meninggal pada April 2024. Orang tua remaja tersebut mengklaim bahwa ChatGPT memberikan metode bunuh diri secara rinci kepada anak mereka. Kasus ini memicu perhatian luas mengenai tanggung jawab platform AI dalam mencegah penyalahgunaan informasi berbahaya.
Sebagai respons atas kontroversi tersebut, OpenAI mengakui dalam pernyataan resmi pada 26 Agustus 2024 bahwa sistem mereka belum sepenuhnya mampu menangani situasi sensitif dengan sempurna. Mereka berkomitmen untuk terus memperbaiki protokol keamanan guna mencegah penyebaran informasi berbahaya melalui chatbot.
Google menjelaskan bahwa Gemini memiliki panduan keamanan yang dirancang untuk mendeteksi pertanyaan-pertanyaan terkait bunuh diri dan risiko melukai diri sendiri. Namun, Google belum memberikan komentar khusus atas temuan terkait jawaban berisiko tinggi oleh Gemini dalam studi tersebut. Sementara itu, Anthropic selaku pembuat Claude belum memberikan tanggapan resmi terkait penelitian ini.
Kebutuhan Standar Keamanan Lebih Ketat
Ryan McBain, penulis utama penelitian sekaligus peneliti di RAND Corporation, menegaskan bahwa temuan ini menjadi alarm serius bagi industri pengembangan chatbot AI. Ia menyatakan bahwa risiko dapat semakin meningkat karena chatbot cenderung memberikan respons berbeda apabila pengguna menggiring percakapan secara bertahap. Oleh karena itu, penting untuk menerapkan standar keamanan yang lebih ketat dan sistem monitoring yang efektif pada platform chatbot.
Dengan kecanggihan teknologi AI yang terus berkembang, kemampuan chatbot dalam menangani masalah kesehatan mental dan situasi berisiko harus menjadi prioritas utama bagi penyedia layanan. Implementasi fitur kontrol keamanan, termasuk pembatasan akses terhadap informasi berbahaya dan pelibatan tenaga ahli klinis dalam pengembangan konten, dapat membantu mengurangi potensi dampak negatif bagi pengguna.
Penelitian ini membuka diskusi penting mengenai bagaimana chatbot AI harus berfungsi tidak hanya sebagai alat komunikasi interaktif, tapi juga sebagai mitra yang bertanggung jawab dalam menjaga keselamatan penggunanya, terutama di ranah krisis mental yang sangat sensitif.
-
-
-
-
