Fitur AI di Google Search ternyata belum selalu mampu mengenali sinyal krisis kesehatan mental pada anak dan remaja. Sebuah pengujian menemukan AI Overview dan AI Mode beberapa kali memberi respons yang tidak sesuai ketika pengguna muda menyampaikan indikasi keinginan bunuh diri.
Temuan ini penting bagi keluarga karena jawaban berbasis AI kini makin sering muncul saat anak mencari informasi melalui Google. Common Sense Media mencatat sekitar tiga perempat anak dan remaja telah menggunakan jawaban AI di Google Search pada 2026.
Pengujian dilakukan oleh Youth AI Safety Institute milik Common Sense Media terhadap sekitar 2.600 interaksi AI Overview dan AI Mode pada Mei hingga Juli 2026. Peneliti memakai akun simulasi pengguna berusia 11 tahun dan 15 tahun yang telah dilengkapi SafeSearch serta kontrol orang tua melalui Google Family Link.
Dalam pengujian tersebut, peneliti menilai respons AI untuk topik yang sangat sensitif, termasuk bunuh diri, melukai diri sendiri, gangguan makan, psikosis, hingga eksploitasi seksual anak. Fokus utamanya adalah apakah sistem dapat mengarahkan pengguna ke bantuan darurat atau tenaga medis saat muncul tanda krisis.
Respons Darurat Belum Mencapai Standar Keamanan
Dari 214 pertanyaan yang seharusnya memicu rujukan ke layanan darurat atau profesional medis, hasil AI Overview dan AI Mode masih berbeda cukup jauh. Keduanya juga belum memenuhi standar keamanan 95% yang digunakan para peneliti.
| Fitur Google | Rujukan Tepat pada Situasi Darurat | Standar Peneliti |
|---|---|---|
| AI Overview | Sekitar 58% | 95% |
| AI Mode | Sekitar 77% | 95% |
Salah satu contoh yang disorot terjadi saat pengguna memakai istilah slang yang mengindikasikan niat bunuh diri. AI Overview justru memberi panduan mengenai pengaturan akun digital setelah seseorang meninggal, bukan mengarahkan pengguna ke layanan bantuan krisis.
Dalam laporannya, peneliti menyatakan AI Overview dan AI Mode gagal melindungi anak yang sedang mengalami krisis. Mereka juga menilai sistem dapat melewatkan tanda keinginan bunuh diri, memperkuat indikasi psikosis dan mania, memvalidasi gangguan makan, serta merayakan penggunaan ganja.
Jawaban Tidak Konsisten dan Risiko di Sekolah
Masalah yang ditemukan tidak hanya terkait keselamatan pengguna. Pada lebih dari 275 pertanyaan sejarah, AI Overview dan AI Mode memberi jawaban berbeda untuk pertanyaan yang sama pada sekitar 43% pengujian.
Perbedaan itu mencakup akurasi, kedalaman informasi, hingga sudut pandang yang diberikan kepada pengguna. Kondisi tersebut dapat menyulitkan anak dan remaja dalam menilai apakah jawaban AI dapat dipercaya sebagai bahan belajar.
Peneliti juga menguji kemampuan AI Mode dalam mengerjakan tugas sekolah. Sistem itu disebut mampu menyelesaikan seluruh soal matematika dan tugas esai yang diberikan, sehingga memunculkan kekhawatiran mengenai potensi kecurangan akademik di kalangan pelajar.
Common Sense Media kemudian menyarankan sekolah dan keluarga memiliki pilihan untuk menonaktifkan AI Overview maupun AI Mode bagi pengguna anak. Untuk siswa sekolah dasar, lembaga itu juga merekomendasikan penggunaan database perpustakaan atau mesin pencari yang tidak menyajikan jawaban berbasis AI.
Google Menilai Metode Riset Tidak Mewakili Penggunaan Nyata
Google menolak kesimpulan tersebut dan menyebut metodologi pengujian tidak mencerminkan pola penggunaan Google Search di dunia nyata. Dalam pernyataannya kepada Mashable, Google menilai banyak pertanyaan yang dipakai bersifat ambigu dan dibuat secara artifisial.
Perusahaan mengatakan telah melakukan pengujian internal dengan kueri yang sama dan memperoleh kualitas jawaban yang lebih baik. Google juga menegaskan AI Search dirancang untuk membantu anak dan remaja belajar, mengeksplorasi informasi, serta memahami dunia.
Orang tua tetap dapat memanfaatkan kontrol orang tua untuk membatasi akses layanan pencarian pada perangkat Android dan browser Chrome. Namun, selama fitur AI masih tersedia bagi pengguna di bawah umur, pengawasan keluarga dan sekolah menjadi bagian penting saat anak memakai Google Search untuk mencari jawaban.
