Google Gemini AI mendapat penilaian risiko tinggi untuk anak-anak dan remaja dari organisasi Common Sense Media, yang fokus pada keamanan pengguna muda di dunia digital. Dalam laporannya, Common Sense Media menyoroti bahwa meskipun Gemini menyertakan peringatan bahwa penggunaannya bukanlah interaksi nyata dengan teman, sistem perlindungan yang diterapkan dinilai masih kurang efektif, sehingga potensi bahaya bagi pengguna di bawah usia 18 tahun tetap signifikan.
Risiko yang Dikhawatirkan untuk Anak dan Remaja
Penilaian risiko Google Gemini AI dibagi menjadi dua kategori utama berdasarkan kelompok umur, yaitu pengguna di bawah 13 tahun dan remaja. Common Sense Media menegaskan bahwa versi Gemini yang dirancang untuk pengguna muda tidak banyak berbeda dari versi dewasa, hanya menambahkan fitur pengamanan yang sifatnya semu dan tidak menyelesaikan masalah mendasar. Beberapa risiko utama yang ditemukan antara lain akses terhadap konten sensitif seperti informasi mengenai seksualitas, alkohol, dan narkoba. Selain itu, AI ini kerap memberikan saran kesehatan mental yang tidak terkontrol dengan baik sehingga dapat membahayakan kondisi psikologis remaja.
Menurut Common Sense Media, pendekatan yang mengadaptasi langsung teknologi AI untuk orang dewasa tanpa mempertimbangkan kondisi tumbuh kembang anak tidaklah memadai. "AI yang aman untuk anak perlu dirancang dari awal dengan mengacu pada tahap perkembangan psikologis dan sosial mereka," sebut laporan tersebut. Hal ini penting agar anak dan remaja dapat terlindungi dari dampak negatif yang potensial muncul selama interaksi dengan teknologi canggih semacam Gemini.
Respons Google terhadap Kritik
Google merespons laporan tersebut dengan menyatakan bahwa mereka telah menerapkan beragam kebijakan dan mekanisme perlindungan khusus terkait pengguna di bawah usia 18 tahun. Salah satunya adalah proses red-teaming internal yang bertujuan mengidentifikasi risiko dan potensi bahaya dari AI sebelum diluncurkan ke publik. Google juga mengakui bekerjasama dengan para ahli eksternal guna terus meningkatkan fitur keamanan dan mengatasi celah yang ditemui selama operasi Gemini.
Meski demikian, Google mengakui bahwa ada kalanya respons dari Gemini tidak sesuai harapan pengguna. Oleh karena itu, perusahaan menegaskan sedang memperkenalkan lapisan proteksi tambahan sebagai langkah mitigasi risiko. Google juga menyampaikan bahwa sebagian fitur yang diuji oleh Common Sense Media dalam laporannya tidak terdapat pada versi Gemini yang ditujukan untuk pengguna anak-anak. Namun, Google mengkritik bahwa mereka tidak mendapat informasi detil mengenai metodologi pengujian organisasi tersebut.
Perbandingan dengan AI Lain di Pasaran
Common Sense Media juga melakukan evaluasi pada layanan AI populer lain, antara lain Meta AI, Character.AI, Perplexity, ChatGPT, dan Claude dari Anthropic. Dalam peringkat risiko mereka, Meta AI dan Character.AI masuk kategori risiko tertinggi (unacceptable), sementara Perplexity juga mendapat label risiko tinggi (high risk). ChatGPT mendapat label risiko sedang (moderate risk), dan Claude dianggap memiliki risiko paling kecil (minimal risk) meskipun hanya untuk pengguna dewasa.
Penilaian Gemini sebagai AI berisiko tinggi (high risk) menempatkannya setara dengan Perplexity, tetapi pada tingkat risiko yang lebih tinggi dibandingkan ChatGPT dan Claude, khususnya dalam konteks perlindungan bagi anak-anak dan remaja. Hal ini menunjukkan bahwa meskipun Gemini dikembangkan oleh Google dengan teknologi mutakhir, aspek keamanan khusus untuk pengguna muda masih menjadi tantangan yang harus segera diatasi.
Tantangan dan Harapan Pengembangan AI yang Ramah Anak
Laporan Common Sense Media menjadi perhatian penting bagi pengembang teknologi agar merancang AI yang tidak hanya canggih secara teknis, tetapi juga aman dan sesuai untuk pengguna muda. Filter dan peringatan sederhana dianggap tidak cukup untuk mencegah paparan konten berbahaya atau informasi palsu yang dapat memicu kecemasan dan masalah psikologis pada anak dan remaja.
Sebagai informasi, Gemini AI merupakan model kecerdasan buatan yang dikembangkan oleh Google DeepMind dan pertama kali diumumkan pada Desember 2023. Keunggulan Gemini adalah kemampuannya tidak hanya dalam memahami dan menghasilkan teks, tetapi juga pengolahan gambar, audio, hingga video secara interaktif. Potensi besar ini sekaligus menimbulkan kebutuhan mendesak untuk pengawasan serta regulasi yang ketat agar penggunaan AI dapat memberikan manfaat optimal sekaligus meminimalkan risiko, terutama bagi kelompok pengguna yang rentan seperti anak-anak dan remaja.