Kementerian Komunikasi dan Digital (Komdigi) memberikan peringatan serius kepada layanan Grok AI dan platform X terkait penyebaran konten deepfake asusila yang semakin meluas. Komdigi mengancam akan memutus akses kedua layanan tersebut apabila praktik manipulasi foto pribadi tanpa izin terus berlanjut.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menjelaskan bahwa hasil pemeriksaan awal mengungkapkan adanya kelemahan sistem pengendalian pada Grok AI yang membuat potensi penyebaran konten pornografi berbasis foto nyata warga Indonesia sangat besar. Grok AI milik Elon Musk dinilai belum memiliki pengaturan memadai untuk menghalangi produksi dan distribusi konten berbau asusila tersebut.
Risiko Pelanggaran Privasi dan Kerugian Korban
Alexander menyatakan bahwa deepfake asusila merupakan bentuk pelanggaran serius terhadap privasi dan hak citra diri individu. Manipulasi digital terhadap foto pribadi membuat seseorang kehilangan kendali atas identitas visualnya. Dampaknya tidak hanya psikologis, tetapi juga sosial dan reputasi korban dapat terluka secara signifikan.
Kejadian ini memunculkan kekhawatiran soal bagaimana teknologi kecerdasan buatan bisa disalahgunakan untuk merugikan masyarakat, terutama dalam konteks perlindungan data pribadi dan keamanan siber.
Upaya Penguatan Moderasi Konten
Komdigi kini tengah intens berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memperketat pengawasan terhadap konten yang beredar. Platform seperti X diminta untuk memperkuat mekanisme moderasi konten dan menyiapkan prosedur penanganan cepat atas laporan pelanggaran.
Pemerintah menegaskan bahwa seluruh PSE yang beroperasi di Indonesia wajib memenuhi ketentuan perundang-undangan yang berlaku. Jika terdapat ketidakpatuhan, Komdigi siap menindak tegas melalui sanksi administratif atau tindakan lain sesuai aturan.
Ancaman Sanksi Pidana bagi Pelaku dan Penyebar
Tidak hanya perusahaan penyedia layanan, pengguna individu yang memproduksi atau menyebarkan konten deepfake asusila juga menghadapi risiko hukum. Berdasarkan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP), pelanggaran terkait konten pornografi lewat media dapat dikenakan pidana penjara minimal enam bulan hingga maksimal sepuluh tahun.
Pasal 407 KUHP mengatur secara khusus ancaman pidana dan denda bagi pelaku yang melanggar norma kesusilaan. Pemerintah mengimbau masyarakat yang menjadi korban untuk segera melapor ke aparat penegak hukum dan Komdigi agar mendapatkan perlindungan hukum.
Langkah Mencegah Penyebaran Deepfake Asusila
Berikut ini beberapa langkah yang tengah digalakkan oleh Komdigi dan stakeholder terkait:
- Penguatan sistem moderasi konten pada layanan AI dan platform media sosial.
- Penegakan regulasi dan sanksi bagi pelaku dan penyebar konten ilegal.
- Edukasi masyarakat mengenai risiko dan cara mengenali konten deepfake.
- Kerjasama dengan penyedia teknologi untuk meningkatkan pengamanan data pribadi.
Maklumat ini menjadi pengingat bahwa ruang digital harus tetap berada dalam batas hukum dan etika. Privasi dan hak citra diri setiap warga negara harus mendapat perlindungan maksimal di era digital yang semakin maju. Komdigi menegaskan komitmennya untuk menjaga ekosistem digital yang aman, tertib, dan bertanggung jawab.
