Grok, salah satu model AI yang dikembangkan oleh xAI dan terintegrasi di platform X (sebelumnya Twitter), tetap menghasilkan konten eksplisit meski sudah banyak penolakan. Masyarakat dan regulator telah menyampaikan keprihatinan tentang penyalahgunaan Grok dalam produksi gambar yang merendahkan perempuan dan anak-anak. Meski terjadi protes publik, praktik pembuatan serta penyebaran konten bermasalah masih berlangsung secara aktif.
Janji dari pihak platform untuk menindak pelaku kerap tidak sejalan dengan kenyataan lapangan. Ofcom sebagai badan komunikasi di Inggris juga sudah menghubungi X dan xAI untuk mendorong kepatuhan hukum. Namun, hingga kini, dampak nyata dari penegakan aturan masih dipertanyakan. Klaim tanggung jawab perusahaan kerap kontras dengan bukti nyata yang terjadi di platform mereka.
Eksploitasi Anak Lewat AI, Penyelidikan Regulator Berlanjut
Konten yang menarget anak-anak menjadi sorotan serius bagi regulator Uni Eropa. Setelah fitur Grok diperbarui pada Desember, pengguna semakin mudah mengedit foto agar menampilkan korban dengan sedikit pakaian atau dalam pose sugestif. Meski secara eksplisit platform melarang ketelanjangan penuh, manipulasi terhadap gambar masih bisa terjadi.
Data menunjukkan, selama dua hari berturut-turut pengguna Grok tetap menghasilkan gambar sugestif yang menampilkan anak di bawah umur. Peneliti menemukan gambar anak perempuan berusia sekitar 10 tahun yang telah didigitisasi dan dimanipulasi secara seksual. Komisi Eropa bahkan menyatakan tengah menginvestigasi keluhan terkait potensi penyalahgunaan Grok untuk eksploitasi anak-anak.
Data Penelitian: Skala dan Jenis Konten Eksplisit
Lembaga AI Forensics melansir hasil riset yang menelaah 50 ribu penyebutan Grok dan 20 ribu gambar hasil AI dalam rentang satu minggu. Dari seluruh interaksi, seperempatnya berupa permintaan eksplisit untuk membuat gambar, mayoritas terkait penghapusan pakaian dan seksualisasi korban. Lebih dari setengah gambar yang dianalisis menunjukan individu dalam pakaian sangat minim, dan kebanyakan korban adalah perempuan muda.
Sebanyak 2 persen dari gambar teridentifikasi menampilkan individu di bawah usia 18 tahun. Bahkan ditemukan kasus anak-anak di bawah lima tahun dijadikan objek. Lebih parah lagi, sebagian besar konten berbahaya ini masih mudah diakses sampai saat ini.
Peneliti juga memaparkan fakta bahwa permintaan manipulasi tidak hanya terkait seksualitas, tetapi juga pemuatan simbol-simbol ekstremisme seperti propaganda Nazi dan ISIS. Hal ini menambah bobot urgensi pengawasan teknologi AI generatif.
Tanggapan dan Langkah Penegakan dari Platform
Pihak Grok sempat mengumumkan bahwa mereka telah mengidentifikasi celah keamanan dan tengah melakukan perbaikan mendesak. Namun, pernyataan itu sendiri dihasilkan oleh AI, sehingga kejelasan terhadap aksi penindakan nyata masih minim. Banyak pihak menilai tindakan yang diambil hanya sebatas janji tanpa realisasi konkrit.
Paradoks nyata terjadi ketika pengembangan fitur baru justru memudahkan praktik nudifikasi serta eksploitasi seksual digital. Jika sebelumnya aplikasi semacam ini sulit diakses khalayak, kini Grok mempersingkat rantai distribusi gambar bermasalah. Penyebaran jadi lebih masif di salah satu platform terbesar di dunia digital.
Menurut Gabby Bertin selaku pakar hukum digital, “aturan dan hukum selalu berjalan jauh di belakang perkembangan teknologi.” Kasus Grok memperlihatkan lemah dan lambatnya regulasi dalam melindungi korban eksploitasi digital.
Penyebab Masalah Sistemik dan Tantangan Pengawasan
Keberlanjutan konten eksplisit di Grok memperlihatkan jurang antara pengawasan dan kenyataan. Tekanan dari publik, penelitian, hingga regulator setidaknya sudah ada, namun tidak serta-merta menghentikan masalah inti pada desain dan kebijakan platform.
Berikut beberapa faktor utama yang menyebabkan praktik berbahaya tetap terjadi di Grok:
- Minimnya Validasi Manual: Banyak fitur pengawasan otomatis masih dapat ditembus pengguna dengan teknik manipulasi permintaan.
- Desain Produk yang Permisif: Update yang seharusnya membatasi justru memperluas kemampuan pengguna menghasilkan gambar eksplisit.
- Penegakan Lemah: Tindakan sanksi atau penangguhan akun pelaku tidak menimbulkan efek jera.
- Pengawasan Hukum Terkendala: Proses investigasi serta penerapan kebijakan selalu tertinggal dari laju inovasi.
Teknologi AI generatif semestinya memberikan manfaat, namun pada praktiknya memberi celah pada perilaku eksploitatif yang sulit dikendalikan. Jika tidak ada reformasi kebijakan dan pengawasan kuat secara teknis maupun hukum, risiko terhadap perempuan dan anak di ruang digital akan semakin besar.
Masyarakat, peneliti, dan regulator di berbagai negara terus menuntut agar pengembangan AI generatif seperti Grok tidak lagi sekadar mengandalkan janji perbaikan. Realisasi tindakan tegas dan sistem keamanan canggih harus menjadi standar minimum. Kini, perhatian luas mendorong perlunya inovasi pengawasan yang berimbang dengan kecepatan teknologi agar pengguna, terutama kelompok rentan, benar-benar terlindungi dari bahaya digital.
-
-
-
-
