Pemerintah melalui Kementerian Komunikasi dan Digital (Kemenkomdigi) menanggapi serius peredaran konten pornografi palsu yang dihasilkan oleh teknologi artificial intelligence (AI) Grok. Untuk mencegah dampak negatif yang lebih luas, Kemenkomdigi mengambil langkah tegas dengan memblokir sementara akses aplikasi AI Grok di Indonesia.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia dan keselamatan warga di ruang digital. Konten tersebut tidak hanya merusak reputasi korban tetapi juga menimbulkan trauma psikologis yang mendalam, terutama bagi perempuan dan anak-anak.
Langkah Pemblokiran dan Penegakan Regulasi
Pemutusan akses ke Grok dilakukan berdasarkan peraturan yang berlaku, khususnya Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Di dalam regulasi ini, setiap penyelenggara sistem elektronik diwajibkan untuk mencegah penyebaran konten yang bertentangan dengan hukum, termasuk konten pornografi palsu dan manipulasi foto yang dapat merugikan individu.
Selain melakukan pemblokiran sementara, Kemenkomdigi juga mengundang pengelola platform X yang menyediakan layanan Grok untuk memberikan klarifikasi. Pemerintah meminta penjelasan terkait mekanisme pengendalian konten yang mengandung unsur deepfake dan rencana perbaikan yang akan dilakukan demi menjamin keamanan para pengguna.
Dampak Negatif Deepfake dan Upaya Perlindungan Masyarakat
Teknologi deepfake berpotensi menciptakan gambar dan video palsu yang sangat realistis sehingga sulit dibedakan dari konten asli. Penyebaran konten yang tidak etis ini dapat membawa dampak sosial yang sangat serius, termasuk kerusakan nama baik, intimidasi digital, dan pelanggaran privasi yang mengancam keselamatan masyarakat, terutama kelompok rentan.
Kemenkomdigi menilai bahwa tindakan pencegahan sangat penting untuk menjaga integritas ruang digital. Pemerintah berkomitmen untuk terus mengawasi perkembangan teknologi AI yang digunakan secara negatif dan melakukan penindakan sesuai dengan ketentuan hukum agar masyarakat dapat beraktivitas secara aman dan nyaman di dunia maya.
Nasib Akses AI Grok di Indonesia ke Depan
Keputusan mengenai kelanjutan akses AI Grok akan ditentukan berdasarkan hasil klarifikasi dan komitmen dari pihak pengelola platform. Kemenkomdigi akan memantau secara ketat pelaksanaan langkah perbaikan yang diajukan untuk memastikan bahwa teknologi ini tidak disalahgunakan.
Masyarakat diimbau untuk lebih waspada terhadap konten digital yang berpotensi merugikan dan segera melaporkan apabila menemukan indikasi penyalahgunaan teknologi AI yang melanggar hak asasi manusia. Langkah ini merupakan bagian dari upaya pemerintah dalam menjaga keamanan dan etika digital demi perlindungan publik secara menyeluruh.
Baca selengkapnya di: www.beritasatu.com
