Platform media sosial X, yang sebelumnya dikenal sebagai Twitter, mengambil langkah tegas dengan merombak kebijakan terkait kemampuan penyuntingan gambar pada chatbot kecerdasan buatan mereka, Grok. Perubahan ini muncul setelah gelombang protes global akibat tuduhan Grok memfasilitasi pembuatan gambar seksual yang melibatkan anak di bawah umur dan konten ketelanjangan tanpa persetujuan.
X mengumumkan melalui akun resmi @Safety bahwa mereka telah mengadopsi sistem keamanan berbasis teknologi baru untuk mencegah manipulasi gambar orang sungguhan menjadi berpakaian minim seperti bikini atau pakaian terbuka lainnya. Sistem ini membatasi penyalahgunaan fitur AI tersebut sekaligus menjamin perlindungan terhadap materi sensitif.
Kebijakan Baru dan Perubahan Akses
Perubahan signifikan terjadi pada akses fitur pembuatan gambar di Grok. Seluruh kemampuan tersebut kini dipindahkan ke balik paywall, artinya hanya pelanggan premium yang dapat menggunakan fitur ini. Pengguna gratis resmi kehilangan akses terhadap kemampuan generasi gambar ini. Langkah ini diambil untuk mengurangi risiko penyalahgunaan dan menggencarkan kontrol terhadap konten yang dihasilkan.
Selain itu, X juga menerapkan pemblokiran geografis ketat di wilayah yang melarang konten eksplisit. Sistem algoritma Grok tidak lagi diizinkan menghasilkan visualisasi orang sungguhan dengan pakaian dalam atau busana minim sesuai aturan hukum setempat. Kebijakan ini dicanangkan untuk menyesuaikan dengan regulasi berbagai negara dan meminimalisir pelanggaran hukum.
Tekanan Otoritas dan Penyelidikan Resmi
Langkah korektif ini muncul setelah otoritas di California, Amerika Serikat, membuka penyelidikan resmi terhadap xAI dan Grok terkait tuduhan eksploitasi digital. Jaksa Agung California, Rob Bonta, membeberkan hasil analisis data yang mengejutkan. Lebih dari separuh dari 20.000 gambar yang diproduksi Grok antara periode Natal hingga Tahun Baru menggambarkan individu dalam pakaian minim, termasuk visual yang menyerupai anak-anak.
Penyelidikan tersebut menjadi tekanan besar bagi Elon Musk dan tim pengembang untuk membuktikan teknologi mereka tidak memfasilitasi eksploitasi dan pelecehan. Pihak X menyatakan komitmen “toleransi nol” terhadap segala bentuk eksploitasi anak serta berjanji akan menyingkirkan Materi Pelecehan Seksual Anak (CSAM) dari platform mereka.
Respons dari Elon Musk
Elon Musk mengaku tidak menyadari adanya konten anak di bawah umur yang dihasilkan oleh Grok. Dia menegaskan pengaturan NSFW (Not Safe For Work) pada Grok seharusnya hanya menghasilkan visualisasi artistik orang dewasa imajiner. Standar sensor yang diterapkan setara dengan film berperingkat R di layanan streaming global. Musk juga memastikan bahwa fitur ini akan disesuaikan dengan regulasi tiap negara.
Reaksi dan Tindakan Global
Isu terkait keamanan AI Grok memicu reaksi keras di Asia Tenggara. Malaysia dan Indonesia mulai mengambil langkah pembatasan dengan memblokir akses Grok karena kekhawatiran konten seksual eksplisit yang dihasilkan AI tersebut. Kebijakan ini bertujuan melindungi masyarakat dari penyebaran konten yang tidak pantas dan menjaga norma sosial.
Tidak hanya Asia, di Inggris regulator komunikasi, Ofcom, juga sedang melakukan investigasi mendalam terhadap xAI. Pejabat Inggris menyatakan dukungan terhadap wacana pemblokiran jika Grok terbukti gagal mematuhi standar keselamatan digital internasional. Hal ini menandai fase baru pertempuran regulasi antara inovasi kecerdasan buatan dan perlindungan hak asasi manusia.
Ringkasan Kebijakan Baru Grok oleh X
- Sistem keamanan baru untuk mencegah manipulasi gambar sensitif
- Fitur pembuatan gambar dipindahkan ke layanan premium (paywall)
- Pemblokiran geografis ketat terhadap wilayah larangan konten eksplisit
- Komitmen menghapus materi pelecehan seksual anak (CSAM)
- Penyesuaian fitur NSFW sesuai peraturan masing-masing negara
Langkah yang diambil X ini merupakan respon penting terhadap kritik dan investigasi global terkait penyalahgunaan teknologi AI. Perubahan ini berperan dalam membatasi risiko eksploitasi sekaligus menjaga integritas platform dan keamanan pengguna. Debat seputar regulasi AI di berbagai negara memperlihatkan pentingnya keseimbangan antara inovasi teknologi dengan etika dan hukum yang berlaku.
-
-
-
-
