Google kembali disorot karena fitur AI Search-nya dinilai membawa risiko yang tidak bisa dianggap kecil bagi anak-anak. Common Sense Media menyebut masalah utamanya ada pada fakta bahwa layanan itu hadir di perangkat pribadi dan perangkat sekolah yang sangat luas dipakai anak.
Organisasi tersebut menilai kehadiran Google AI menjadi berbeda dari layanan AI lain karena sifatnya yang “ubiquitous on children’s personal and school-issued devices.” Dengan kata lain, anak-anak lebih mudah terpapar karena fitur itu menyatu dengan ekosistem perangkat yang sudah akrab di sekolah.
AI yang mengerjakan PR, tetapi jawaban tidak konsisten
Salah satu temuan yang paling menonjol adalah soal tugas sekolah. Google AI Mode disebut dapat menyelesaikan pekerjaan rumah yang seharusnya dikerjakan siswa, namun hasilnya tidak selalu sama setiap kali dicoba.
Common Sense Media mengatakan jawaban yang muncul kadang benar, kadang salah. Situasi ini membuat AI bukan hanya mengganggu proses belajar, tetapi juga berpotensi memberi rasa percaya yang keliru pada hasil yang tidak stabil.
| Fitur | Temuan | Catatan |
|---|---|---|
| AI Mode | Bisa mengerjakan PR | Jawaban bisa berubah-ubah |
| AI Overview | Muncul otomatis | Tidak bisa dimatikan |
Dinilai gagal saat menghadapi anak dalam krisis
Penilaian yang lebih serius muncul ketika sistem dinilai gagal membaca tanda-tanda kondisi mental berisiko. Menurut Common Sense Media, Google AI Mode tidak menangkap dengan jelas tanda ide bunuh diri, justru memperkuat sinyal psikosis dan mania.
Organisasi itu juga menyebut AI tersebut memvalidasi disordered eating, termasuk purging, dan bahkan merayakan penggunaan cannabis. Untuk kategori perlindungan anak, temuan seperti ini menjadi alasan utama mengapa kritik terhadap Google AI mengeras.
Fitur yang tidak bisa dimatikan jadi masalah tambahan
Google AI Mode adalah antarmuka chatbot yang hanya muncul ketika pengguna menekan tombol AI Mode. Namun ada pula AI Overview yang tampil otomatis, dan inilah yang dianggap paling problematis karena tidak memberi pilihan untuk menonaktifkannya.
Common Sense Media menyebut Google AI gagal pada 7 dari 8 prinsip AI yang mereka uji. Laporan lengkap organisasi tersebut tersedia dalam bentuk PDF, dan www.gsmarena.com mencatat bahwa hasil itu memperkuat kekhawatiran soal penggunaan AI Google di lingkungan yang banyak diakses anak-anak.
