Gemini Kini Bisa Tampilkan Bantuan Darurat, Google Perketat Proteksi Kesehatan Mental

Google memperbarui perlindungan kesehatan mental di Gemini dengan menambahkan modul baru bertajuk “Help is available” untuk pengguna yang terdeteksi membutuhkan bantuan saat percakapan mengarah ke isu krisis mental. Fitur ini dirancang bersama para ahli klinis agar Gemini bisa memberi akses yang lebih cepat dan lebih efektif ke layanan pertolongan darurat.

Langkah ini menunjukkan dorongan Google untuk memperkuat aspek keselamatan pada AI percakapannya di tengah sorotan publik terhadap dampak chatbot pada kesehatan mental. Dalam pembaruan terbarunya, Google menegaskan bahwa sistem akan segera menampilkan modul bantuan ketika percakapan dinilai mengisyaratkan kebutuhan dukungan kesehatan mental.

Bantuan krisis dibuat lebih mudah diakses

Modul “Help is available” akan mengarahkan pengguna ke sumber daya hotline krisis secara langsung. Pengguna kemudian bisa memilih untuk mengobrol, menelepon, mengirim pesan teks, atau membuka situs web hotline tersebut.

Google menyebut pendekatan ini sebagai upaya untuk “memberikan koneksi yang lebih efektif dan segera ke perawatan.” Dalam praktiknya, desain seperti ini penting karena banyak pengguna dalam kondisi rentan membutuhkan jalur bantuan yang jelas tanpa harus mencari informasi sendiri.

Perubahan ini juga menempatkan Gemini lebih dekat dengan pendekatan keselamatan yang lazim dipakai platform digital saat menangani risiko serius. Alih-alih membiarkan percakapan berjalan tanpa arah, sistem akan mendorong pengguna menuju bantuan profesional, bukan sekadar respons umum dari chatbot.

Fokus pada respons yang aman dan tidak menguatkan delusi

Google mengatakan tim klinis, teknik, dan keselamatannya kini memusatkan perhatian pada upaya menjaga keamanan dan koneksi antarmanusia. Mereka juga berupaya menyusun respons yang lebih baik agar Gemini tidak ikut mengonfirmasi keyakinan yang salah atau keliru.

Pendekatan ini penting karena chatbot berbasis generatif dapat terdorong memberi jawaban yang terdengar meyakinkan, meski tidak selalu tepat secara klinis. Dalam konteks kesehatan mental, kesalahan kecil bisa berdampak besar jika sistem justru memperkuat persepsi yang tidak berdasarkan kenyataan.

Perlindungan tambahan untuk pengguna muda

Google juga menambahkan pembatasan baru untuk melindungi pengguna yang lebih muda. Gemini akan dicegah agar tidak berperan seperti teman dekat atau pendamping emosional, termasuk menghindari bahasa yang meniru keintiman atau menyiratkan kebutuhan emosional.

Selain itu, Google menyebut ada perlindungan untuk mencegah perundungan. Kebijakan ini sejalan dengan kekhawatiran yang meningkat terhadap karakter chatbot yang terlalu manusiawi, terutama ketika digunakan oleh pengguna remaja yang lebih rentan membangun keterikatan emosional dengan AI.

Apa saja perubahan utama di Gemini?

1. Modul “Help is available” akan muncul saat percakapan mengarah ke isu kesehatan mental.
2. Pengguna bisa mengakses hotline krisis melalui chat, telepon, pesan teks, atau situs web.
3. Modul ini dikembangkan bersama ahli klinis agar respons lebih tepat.
4. Google memperkuat sistem agar tidak mengafirmasi keyakinan yang salah.
5. Ada pembatasan baru untuk mencegah Gemini bertindak seperti pendamping emosional bagi pengguna muda.

Dukungan dana ke hotline krisis global

Selain perubahan produk, Google juga mengalokasikan dana sebesar $30 juta untuk hotline krisis global. Dukungan finansial ini menambah lapisan respons di luar fitur perangkat lunak, sekaligus menunjukkan bahwa perusahaan ingin memperkuat ekosistem pertolongan darurat dari sisi teknologi dan pendanaan.

Langkah pendanaan seperti ini juga penting karena layanan krisis sering menghadapi keterbatasan sumber daya, terutama ketika permintaan bantuan meningkat. Dengan dukungan tambahan, akses terhadap layanan darurat diharapkan menjadi lebih stabil dan siap digunakan saat dibutuhkan.

Sorotan publik terhadap risiko chatbot tetap membayangi

Pembaruan ini hadir beberapa bulan setelah muncul gugatan yang menuduh chatbot Google mendorong seorang pria bunuh diri. Google tidak menanggapi kasus tersebut secara langsung dalam blog resminya, tetapi konteks tersebut jelas memberi tekanan besar pada perusahaan untuk memperlihatkan peningkatan perlindungan yang lebih nyata.

Di tengah persaingan ketat AI generatif, fitur keselamatan seperti ini menjadi bagian penting dari reputasi produk. Gemini kini tidak hanya dinilai dari kemampuan menjawab pertanyaan, tetapi juga dari kemampuannya merespons situasi sensitif dengan aman, manusiawi, dan terhubung ke bantuan yang benar saat risiko kesehatan mental muncul.