Munculnya dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X untuk menghasilkan dan menyebarkan konten pornografi, termasuk manipulasi foto pribadi tanpa izin, menciptakan kekhawatiran baru. Sejumlah tangkapan layar memperlihatkan pengguna X sengaja meminta Grok AI melakukan tindakan-tindakan tak senonoh, seperti menghapus pakaian seseorang dalam gambar.
Komdigi mengumumkan langkah tegas atas fenomena ini. Mereka menilai situasi tersebut sebagai ancaman serius, baik terhadap perlindungan data pribadi maupun hak atas citra diri warga.
Minimnya Proteksi pada Grok AI
Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar mengungkapkan hasil penelusuran awal. Ia menyebut Grok AI belum menyediakan pengaturan eksplisit yang cukup untuk mencegah pembuatan serta distribusi konten pornografi berbasis foto nyata masyarakat Indonesia.
Kurangnya proteksi itu memungkinkan terjadinya pelanggaran privasi dan hak visual, apalagi jika foto seseorang digunakan atau dimodifikasi tanpa persetujuan. Alexander menyampaikan, “Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi."
Kondisi ini dapat menimbulkan risiko besar bagi korban. Mulai dari kerugian psikologis hingga terganggunya reputasi secara sosial.
Langkah Komdigi Antisipasi Penyalahgunaan
Komdigi tidak tinggal diam. Instansi ini telah berkoordinasi dengan seluruh Penyelenggara Sistem Elektronik (PSE) yang beroperasi di Indonesia. Fokus utama koordinasi tersebut adalah memastikan seluruh PSE memiliki sistem moderasi konten yang kuat, mencegah pembuatan deepfake asusila, dan menyiapkan mekanisme pelaporan pelanggaran privasi.
Proses ini juga menekankan pentingnya kepatuhan PSE terhadap regulasi di Indonesia. Jika ditemukan pelanggaran, Komdigi tak segan untuk memberikan sanksi administratif, termasuk kemungkinan pemutusan akses terhadap layanan Grok AI maupun platform X di Indonesia.
Alexander menegaskan, “Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang."
Perhatian pada Hak Atas Citra Diri
Manipulasi digital foto pribadi dinilai oleh Komdigi sebagai bentuk perampasan kontrol individu terhadap identitas visualnya. Hal ini melampaui sekadar persoalan norma kesusilaan. Risiko yang muncul antara lain kerugian psikologis, sosial, hingga dampak reputasi korban.
Pengawasan pada ranah digital ini dirancang agar sektor teknologi di Indonesia tetap bertanggung jawab. Komdigi menilai penguatan tata kelola teknologi kecerdasan buatan sangat mendesak agar pelanggaran serupa tidak terjadi.
Rencana Sanksi hingga Pemutusan Akses
Komdigi mengingatkan seluruh penyelenggara platform digital, termasuk X dan Grok AI, agar melaksanakan perlindungan terhadap pengguna serta mematuhi hukum Indonesia. Sikap tidak kooperatif, menurut Komdigi, bisa berujung pada sanksi administratif dan tindakan ekstrem berupa blokir layanan.
Berikut tahapan sanksi yang bisa dilakukan Komdigi sesuai peraturan yang berlaku:
- Peringatan tertulis kepada penyelenggara platform digital.
- Pemberian sanksi administratif jika tak ada perbaikan.
- Pemutusan akses atau blokir layanan secara permanen bila pelanggaran berlanjut.
Langkah-langkah ini diharapkan memberi efek jera sekaligus menuntut peningkatan proteksi dalam pengembangan kecerdasan buatan di Tanah Air.
Komitmen Perlindungan Pengguna Digital
Komdigi menekankan, perlindungan pengguna dan kepatuhan hukum lokal adalah tanggung jawab mutlak PSE. Kerja sama lintas sektor, penguatan sistem moderasi, hingga literasi digital penting untuk mencegah eksploitasi teknologi oleh oknum tidak bertanggung jawab.
Situasi ini menjadi pengingat bagi masyarakat akan perlunya kehati-hatian dalam menggunakan layanan berbasis AI, dan menuntut semua pihak terkait memperkuat keamanan ruang digital di Indonesia.
-
-
-
-
