Penggunaan chatbot AI untuk layanan kesehatan mental memang makin populer karena dianggap cepat, murah, dan selalu tersedia. Tetapi temuan terbaru dari Brown University menunjukkan sisi gelap dari tren ini, yakni potensi pelanggaran kode etik psikologi dan risiko keselamatan pengguna yang belum tertangani dengan baik.
Temuan itu penting karena banyak orang mulai menjadikan AI sebagai tempat bercerita saat stres, cemas, atau butuh dukungan emosional. Di saat yang sama, chatbot AI juga semakin sering diposisikan sebagai alternatif terapi virtual, padahal peneliti menilai teknologi ini belum siap menggantikan peran psikolog profesional.
AI Dinilai Belum Punya Standar Terapi yang Memadai
Penelitian yang dilansir Psychology Today itu menilai large language models atau model bahasa besar yang dipakai chatbot AI kerap gagal mematuhi standar etik kesehatan mental, termasuk pedoman dari American Psychological Association. Penulis utama penelitian, Zainab Iftikhar, menegaskan bahwa psikoterapi bukan sekadar tanya jawab sederhana yang bisa ditangani sistem komputasi biasa.
Tim peneliti menilai terapi mental menuntut pemahaman emosional yang mendalam, tanggung jawab profesional, dan kepatuhan ketat terhadap kode etik psikologi. Mereka juga menekankan bahwa aspek empati, keamanan, dan perlindungan kondisi psikologis pasien belum bisa dipenuhi secara utuh oleh AI.
Penelitian ini berlangsung selama 18 bulan dan melibatkan tujuh konselor sebaya terlatih serta tiga psikolog klinis berlisensi. Mereka mengevaluasi perilaku chatbot AI dalam simulasi sesi konseling mental dengan sejumlah model, termasuk GPT-4, GPT-3.5, GPT-3.0, Llama 3.1, Llama 3.2, Claude 3 Haiku, dan Claude 3 Sonnet.
Ditemukan Pelanggaran Etik dalam Banyak Sesi
Dari 137 sesi konseling yang dianalisis, peneliti menemukan sedikitnya 15 bentuk pelanggaran etik yang dibagi ke dalam lima kategori utama. Salah satu masalah paling sering muncul adalah kurangnya pemahaman konteks, ketika chatbot gagal menangkap situasi emosional pengguna secara utuh dan justru memberi respons terlalu umum.
AI juga dinilai buruk dalam membangun kolaborasi terapeutik, padahal relasi antara terapis dan pasien menjadi faktor penting dalam proses pemulihan. Dalam banyak kasus, chatbot cenderung mendominasi percakapan dan tidak memberi ruang interaksi yang sehat.
Masalah lain muncul dalam bentuk empati yang dianggap menyesatkan. Respons AI memang terdengar hangat dan suportif, tetapi para peneliti menilai sifatnya artifisial dan berpotensi memanipulasi emosi pengguna.
Penelitian itu juga menemukan diskriminasi tidak adil dalam beberapa respons chatbot. Hal ini terjadi karena AI belajar dari data internet yang tidak selalu netral dan bebas bias, sehingga output yang muncul tidak selalu aman bagi semua pengguna.
Risiko Terbesar Ada di Situasi Krisis
Bagian paling mengkhawatirkan dari studi tersebut adalah lemahnya kemampuan chatbot AI saat menghadapi kondisi krisis. AI disebut memiliki keterbatasan besar ketika berhadapan dengan trauma berat, kekerasan, hingga keinginan bunuh diri.
Dalam situasi seperti itu, respons yang salah justru bisa memperburuk kondisi psikologis pengguna. Karena itu, para peneliti menilai chatbot AI belum layak menjadi terapis penuh, terutama untuk kasus kesehatan mental yang kompleks dan sensitif.
Popularitasnya Justru Terus Naik
Meski risikonya besar, minat publik terhadap AI untuk kesehatan mental terus meningkat secara global. Studi di jurnal AI & Society pada Februari 2026 menunjukkan masyarakat semakin terbuka menggunakan AI sebagai penasihat kesehatan mental.
Survei terhadap 31 ribu responden dari 35 negara menemukan 42 persen masyarakat di Amerika Serikat dan 41 persen responden di Inggris bersedia memakai AI untuk dukungan kesehatan mental. Angka itu jauh lebih tinggi di China, yang mencapai 86 persen.
Bagi banyak orang, AI terlihat praktis karena bisa memberi dukungan cepat tanpa harus datang langsung ke psikolog atau konselor. Biaya terapi yang mahal di beberapa negara dan layanan real-time 24 jam juga membuat chatbot AI makin menarik bagi pengguna.
Pasar Besar, Tapi Aturan Masih Tertinggal
Di sisi industri, Grand View Research memperkirakan pasar AI untuk kesehatan mental bisa mencapai 9,12 miliar dolar AS pada 2033. Proyeksi itu menunjukkan bahwa bisnis terapi virtual dan dukungan emosional berbasis AI punya potensi besar untuk terus berkembang.
Namun para peneliti mengingatkan bahwa pertumbuhan pasar tidak boleh mengalahkan keselamatan pengguna. Mereka mendorong pemerintah dan regulator segera membuat pedoman hukum serta aturan etik yang lebih jelas agar AI tetap bisa dimanfaatkan tanpa membahayakan kondisi psikologis masyarakat.
Di tengah cepatnya adopsi teknologi, pengguna juga diminta lebih bijak saat menjadikan chatbot AI sebagai tempat mencari bantuan untuk persoalan mental serius. Empati manusia, pemahaman emosional, dan tanggung jawab profesional masih menjadi unsur yang belum sepenuhnya bisa digantikan mesin.
