Komdigi Siapkan Pemutusan Akses Grok AI Tanggapi Penyebaran Tren Deepfake Secara Meluas

Kementerian Komunikasi dan Digital (Komdigi) serius menindak penyebaran konten deepfake yang menyalahgunakan teknologi kecerdasan buatan (AI). Langkah paling tegas yang diancamkan adalah pemutusan akses terhadap layanan Grok AI dan platform X karena dinilai gagal mengendalikan konten manipulasi foto pribadi yang berpotensi merugikan warga Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa fitur AI yang digunakan oleh Grok AI belum memiliki regulasi dan proteksi yang memadai. Hal ini memungkinkan produksi serta distribusi konten pornografi berbasis deepfake dengan foto asli warga tanpa izin, yang melanggar privasi dan hak citra diri.

Risiko Manipulasi Foto dengan Deepfake

Manipulasi digital terhadap foto pribadi dapat menyebabkan kerugian psikologis, sosial, dan merusak reputasi korban. Alexander menjelaskan bahwa pencurian kendali terhadap identitas visual ini bukan sekadar pelanggaran pribadi, melainkan potensi pelanggaran serius yang berdampak luas. Penyebaran konten asusila hasil deepfake menjadi perhatian utama karena merugikan orang yang fotonya dimanipulasi tanpa persetujuan.

Tuntutan Penguatan Sistem Moderasi Konten

Komdigi mendorong seluruh Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan Grok AI, untuk memperkuat mekanisme moderasi konten. Pemerintah menuntut adanya sistem pencegahan produksi deepfake secara efektif dan prosedur pengaduan yang responsif. Hal ini bertujuan mengurangi risiko penyalahgunaan teknologi AI yang merugikan masyarakat serta menjamin tata kelola digital yang sehat.

Sanksi dan Regulasi Hukum yang Berlaku

Ketidakpatuhan terhadap regulasi akan berujung pada sanksi administratif hingga pemutusan akses layanan. Selain itu, pengguna maupun penyedia layanan AI yang terlibat dalam penyebaran konten manipulatif dapat dikenai sanksi pidana sesuai Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP), yang mulai berlaku sejak Januari 2026. Pasal 407 KUHP mengancam hukuman penjara enam bulan hingga 10 tahun bagi pelaku pelanggaran norma kesusilaan melalui media.

Peran Pemerintah dan Masyarakat

Komdigi juga mengajak masyarakat yang menjadi korban untuk melapor ke aparat penegak hukum dan Komdigi agar mendapatkan perlindungan hukum. Pemerintah menegaskan bahwa ruang digital tidak boleh menjadi zona tanpa hukum karena hak privasi dan citra diri setiap individu harus dihormati dan dijaga.

Pemantauan ketat terhadap platform digital dan teknologi AI menjadi strategi penting untuk mengantisipasi potensi penyalahgunaan. Komdigi berkomitmen melakukan evaluasi berkelanjutan agar teknologi yang berkembang tidak malah merugikan masyarakat dan melanggar hak asasi. Kendati teknologi deepfake semakin maju, perlindungan hukum dan tata kelola konten digital perlu terus diperkuat demi menjaga keamanan dan kenyamanan ruang digital di Indonesia.