Kementerian Komunikasi dan Digital Indonesia (Kemenkomdigi) mengambil langkah tegas dengan memblokir sementara akses layanan kecerdasan buatan Grok AI yang terintegrasi di platform X (sebelumnya Twitter) milik Elon Musk. Pemblokiran ini dilakukan karena penyalahgunaan teknologi tersebut dalam membuat konten deepfake asusila yang merugikan terutama perempuan dan anak-anak.
Indonesia menjadi negara pertama yang secara resmi memutus akses Grok AI karena potensi dampak sosial serius akibat penyebaran konten manipulasi visual tanpa persetujuan subjek. Pemerintah menilai praktik tersebut merupakan pelanggaran berat terhadap hak asasi manusia serta martabat warga negara.
Alasan Pemblokiran Grok AI di Indonesia
Teknologi Grok AI memungkinkan pengguna membuat dan mengedit gambar, termasuk konten seksual, tanpa persetujuan pihak yang bersangkutan. Hal ini membuka celah eksploitasi digital, khususnya terhadap kelompok rentan seperti perempuan dan anak-anak. Menurut pernyataan Kemenkomdigi, deepfake seksual nonkonsensual melanggar hak asasi dan berpotensi menimbulkan dampak negatif jangka panjang bagi korban.
Pemblokiran ini didasari oleh Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 mengenai Penyelenggara Sistem Elektronik Lingkup Privat. Dalam aturan tersebut, penyelenggara wajib memastikan sistem mereka tidak menyebarkan konten yang ilegal atau dilarang oleh hukum yang berlaku di Indonesia.
Pengawasan dan Tindakan Pemerintah
Direktur Jenderal Pengawasan Ruang Digital Kemenkomdigi, Alexander Sabar, menyatakan Grok AI belum mengimplementasikan sistem keamanan yang cukup untuk mencegah penyalahgunaan konten pornografi berbasis foto pribadi. Pemerintah telah meminta klarifikasi resmi dari pihak pengembang xAI dan membuka peluang sanksi administratif jika perbaikan tidak segera dilakukan.
Meski fitur pembuatan dan pengeditan gambar Grok AI hanya dapat diakses oleh pengguna berbayar, risiko penyalahgunaan tetap ada. Pengembang sendiri mengakui terdapat kekurangan dalam sistem pengaman dan berkomitmen menutup celah tersebut agar teknologi tidak disalahgunakan.
Dampak Sosial dan Perhatian Internasional
Pemblokiran Grok AI menarik perhatian dari berbagai negara, termasuk Inggris, Uni Eropa, dan India. Uni Eropa bahkan meminta dokumentasi teknis terkait chatbot Grok sebagai bagian dari pengawasan regulasi. Pemerintah India juga mendorong perubahan sistem agar potensi penyalahgunaan bisa dihentikan tanpa menghilangkan aspek perlindungan hukum.
Selain konten seksual, teknologi Grok AI mampu membuat berbagai jenis deepfake lain seperti manipulasi identitas dan penyebaran informasi palsu. Kondisi ini membuka peluang penggunaan untuk penipuan, pencemaran nama baik, dan manipulasi opini publik.
Upaya Indonesia Menghadapi Tantangan AI
Pemblokiran sementara Grok AI menjadi pesan pemerintah kepada pengembang teknologi untuk bertanggung jawab atas dampak sosial produk mereka. Langkah ini dimaksudkan untuk mengurangi eksploitasi digital dan pelanggaran privasi yang makin kompleks.
Menkomdigi Meutya Hafid menegaskan bahwa kebijakan ini bukan semata terkait teknologi, melainkan soal keamanan, perlindungan publik, dan hak asasi masyarakat. Ke depan, pemerintah Indonesia akan terus memantau perkembangan AI di berbagai platform digital serta memperkuat koordinasi dengan pengembang global.
Selain penegakan aturan, strategi peningkatan literasi dan edukasi digital bagi masyarakat juga menjadi prioritas utama agar pengguna bisa lebih waspada terhadap potensi bahaya teknologi kecerdasan buatan. Dengan pendekatan ini, Indonesia berupaya menjadi pelopor global dalam pengaturan dan pengawalan pemanfaatan AI yang bertanggung jawab dan aman.
Baca selengkapnya di: www.beritasatu.com
