Google kembali menghadapi kontroversi setelah fitur berita otomatisnya mengirimkan notifikasi yang berisi kata-kata rasis, termasuk N-word. Notifikasi tersebut dikirim ke perangkat pengguna dengan mengutip berita dari The Hollywood Reporter tentang insiden di ajang BAFTA Film Awards.
Insiden ini menjadi sorotan karena melibatkan sistem AI yang secara otomatis menyebarkan konten ofensif ke publik. Seorang pengguna Instagram, Danny Price, mengunggah tangkapan layar notifikasi tersebut, yang menyindir momen Bulan Sejarah Hitam (Black History Month).
Google segera menarik notifikasi berisi kata rasis tersebut dan meminta maaf secara resmi. Perusahaan juga mengumumkan tengah melakukan evaluasi mendalam untuk menghindari kejadian serupa di masa depan.
Kegagalan Sistem AI dalam Memahami Konteks Budaya
Masalah muncul karena AI gagal memilah konten sensitif dalam berita terkait insiden di panggung BAFTA. Saat itu, aktor Michael B. Jordan dan Delroy Lindo memberikan penghargaan ketika terdengar kata rasis dari penonton. Pelaku teriakan adalah John Davidson, seorang aktivis dengan sindrom Tourette, yang menjelaskan kata-kata tersebut merupakan tics vokal tidak sengaja.
Sayangnya, algoritma Google justru memasukkan kata-kata kasar dari insiden itu ke dalam notifikasi otomatis. Sistem AI ini belum mumpuni dalam menangani konten yang memuat isu sosial dan budaya kompleks tanpa pengawasan manusia yang ketat.
Risiko “Halusinasi” AI dalam Jurnalisme Digital
Kesalahan fatal ini menunjukkan AI masih rawan mengalami “halusinasi” atau interpretasi keliru saat mengolah berita. Google bukan satu-satunya perusahaan yang mengalami masalah ini. Tahun lalu, Apple menarik fitur notifikasi push berbasis AI setelah memberikan informasi keliru tentang seorang tersangka pembunuhan CEO ternama.
Meskipun AI mampu memproses data dengan cepat, teknologi ini masih kalah akurat dalam aspek penilaian etis dan validasi fakta dibandingkan redaksi manusia. Kesalahan tersebut memperlihatkan bahwa kecanggihan AI belum sepenuhnya dapat menggantikan sentuhan editorial manusia dalam penyajian berita.
Dampak Fatal dan Tantangan bagi Perusahaan Teknologi
Insiden notifikasi rasis ini menimbulkan keraguan serius terhadap keandalan AI dalam menyajikan informasi publik yang sensitif. Kepercayaan pengguna kini dipertaruhkan, sementara persepsi bahwa teknologi AI bisa menyebar konten ofensif atau salah arah makin menguat.
Perusahaan teknologi dihadapkan pada tantangan besar untuk membuktikan inovasi mereka tidak hanya canggih, tapi juga bertanggung jawab secara moral dan etis. Tanpa pengawasan editorial yang tepat, AI berisiko mencederai reputasi perusahaan dan memicu masalah sosial dalam ruang digital.
Langkah yang Dapat Diambil untuk Mengatasi Permasalahan
Beberapa solusi yang sedang dipertimbangkan antara lain:
- Meningkatkan algoritma penyaringan konten untuk mengenali bahasa sensitif dan konteks budaya.
- Melibatkan tim manusia dalam proses validasi sebelum konten otomatis dipublikasikan.
- Menetapkan standar etika yang ketat untuk pengembangan dan penerapan AI dalam jurnalisme.
- Melakukan audit reguler terhadap sistem AI untuk mencegah “bias” dan kesalahan lain.
- Meningkatkan transparansi dari platform dalam menangani isu konten bermasalah.
Dengan langkah-langkah tersebut, perusahaan diharapkan dapat menekan risiko kesalahan serupa dan menjaga integritas informasi yang disediakan melalui teknologi AI.
Peristiwa ini menjadi pengingat bahwa kecanggihan teknologi AI tidak selalu menjamin hasil yang bebas dari masalah. Penanganan isu sensitif butuh kehati-hatian, kepekaan budaya, serta kontrol manusia agar penyajian berita tetap akurat dan bermartabat. Google dan perusahaan lain harus terus berinovasi sambil mengedepankan tanggung jawab sosial digital.
