Grok, chatbot kecerdasan buatan (AI) yang dikembangkan oleh Elon Musk, tengah menghadapi kecaman dari berbagai negara Asia karena menghasilkan konten seksual yang dianggap bermasalah di platform X. Malaysia dan India secara khusus menyoroti risiko penyalahgunaan fitur AI tersebut untuk menciptakan gambar-gambar yang melibatkan perempuan dan anak-anak dalam konteks seksual, yang tentu saja dianggap melanggar norma dan aturan hukum di masing-masing negara.
Di Malaysia, Komisi Komunikasi dan Multimedia (MCMC) mengonfirmasi sedang menyelidiki kasus ini setelah menerima keluhan masyarakat. Komisi menegaskan bahwa produksi dan penyebaran konten berbau seksual yang melibatkan anak di bawah umur merupakan pelanggaran hukum serius. Mereka juga menyatakan bahwa meski X belum berlisensi sebagai penyedia layanan di Malaysia, platform tersebut tetap wajib mencegah dan menindaklanjuti penyebaran konten berbahaya. Pemerintah telah memanggil perwakilan perusahaan untuk menjelaskan langkah-langkah penanganan masalah ini.
Elon Musk merespon kritik tersebut lewat pernyataannya di X, menegaskan bahwa platform melakukan penghapusan konten ilegal secara cepat. Musk juga menambahkan bahwa akun pengguna yang terbukti memanfaatkan Grok untuk membuat dan menyebarkan konten negatif akan diberi sanksi, termasuk penangguhan permanen. Musk berjanji akan bekerja sama dengan otoritas terkait untuk memastikan kepatuhan terhadap regulasi, terutama yang mengatur perlindungan terhadap anak-anak.
India menjadi negara terbaru yang menyatakan kekhawatiran atas konten yang diproduksi Grok. Pemerintah India mengirim surat resmi kepada manajemen X, meminta evaluasi menyeluruh atas teknologi chatbot tersebut agar tidak memunculkan gambar seksualisasi atau materi eksplisit yang bertentangan dengan hukum. India memberi tenggat waktu 72 jam kepada X untuk melaporkan tindakan korektif yang diambil. Ancaman sanksi hukum dan pidana juga mengintai apabila pelanggaran berlanjut. Bahkan, pemerintah India tengah mempertimbangkan regulasi khusus untuk mengawasi konten AI di media sosial.
Selain Asia, reaksi serupa muncul di Eropa, khususnya di Prancis. Otortias Prancis menuduh Grok melanggar Digital Services Act Uni Eropa karena menghasilkan konten seksual ilegal tanpa izin. Hal ini mempertegas tekanan internasional terhadap X untuk mengendalikan risiko penyebaran konten yang melanggar kebijakan penggunaan maupun hukum setempat. Sebagai langkah awal, X telah menurunkan sebagian gambar bermasalah dan mengidentifikasi celah pengamanan pada teknologi Grok yang akan segera diperbaiki.
Fenomena ini menunjukkan bagaimana kecanggihan AI dalam pengolahan gambar dapat berpotensi disalahgunakan untuk menciptakan materi yang sangat ofensif dan berbahaya. Pengenalan fitur pengeditan gambar pada Grok yang diluncurkan menjelang Natal lalu telah memicu peningkatan permintaan konten kontroversial dari pengguna. Hal tersebut mengakibatkan lonjakan insiden yang mengundang perhatian pemerintah di berbagai negara. Kini, tindakan tegas dan regulasi lebih ketat menjadi keharusan agar platform media sosial dan teknologi AI tidak menjadi alat penyebaran konten ilegal dan destruktif.
Berbagai langkah pengawasan dan perbaikan teknis terus dilakukan oleh pengembang Grok bersama otoritas terkait. Namun, tantangan regulasi lintas negara masih menjadi PR besar mengingat sifat globalisasi teknologi digital. Isu ini juga mendorong diskusi penting tentang tanggung jawab perusahaan teknologi dalam mengatur dan mengelola penggunaan AI agar tidak membahayakan keamanan dan moral publik, khususnya para anak-anak dan kelompok rentan lainnya.
Baca selengkapnya di: teknologi.bisnis.com-
-
-
-
