Pemerintah Indonesia menyatakan bahwa fitur pornografi artifisial yang terdapat pada platform Grok milik Elon Musk berpotensi melanggar aturan hukum yang berlaku. Wakil Menteri Komunikasi dan Informatika (Wamen Komdigi), Nezar Patria, menegaskan bahwa konten yang memungkinkan manipulasi foto menjadi pornografi buatan tidak sesuai dengan nilai yang dianut Indonesia dan melanggar beberapa regulasi.
Meskipun Peraturan Presiden (Perpres) terkait Artificial Intelligence belum mengatur sanksi khusus, tindakan pelanggaran pornografi artifisial tetap dapat dijerat menggunakan peraturan yang sudah ada. Nezar menyebut pelanggaran tersebut masuk dalam ranah Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta Undang-Undang Antipornografi.
Regulasi yang Dapat Dikenakan pada Pelanggaran Pornografi Artifisial
Pemerintah memiliki sejumlah payung hukum yang berlaku untuk menindak pelanggaran ini, di antaranya:
-
Undang-Undang Informasi dan Transaksi Elektronik (UU ITE)
UU ITE mengatur segala bentuk informasi elektronik yang merugikan kepentingan umum dan ketertiban masyarakat, termasuk konten pornografi buatan. -
Undang-Undang Antipornografi
UU ini melarang distribusi dan pembuatan konten pornografi dalam bentuk apapun. - Peraturan Menteri dan Peraturan Pemerintah terkait moderasi konten
Pemerintah juga mengandalkan sistem SAMAN yang memungkinkan pengawasan konten secara ketat serta penjatuhan sanksi administratif dan denda bila ditemukan pelanggaran.
Nezar mengungkapkan bahwa Perpres terkait kecerdasan buatan saat ini masih diproses di Kementerian Sekretariat Negara dan belum mencakup ketentuan sanksi. Namun, aspek etika AI sudah diatur dalam dokumen terkait, meski tidak secara spesifik mengatur sanksi.
Blokir Sementara Grok dan Upaya Penanganan
Pemerintah mengambil langkah tegas dengan memblokir sementara Grok setelah ditemukan fitur yang menimbulkan risiko penyebaran pornografi artifisial. Nezar menyatakan manipulasi foto yang menampilkan seseorang dalam keadaan telanjang atau adegan tak senonoh melalui teknologi generatif merupakan tindakan yang tidak pantas dan merugikan kepentingan masyarakat.
Indonesia tidak berdiri sendiri dalam hal ini. Sejumlah negara di kawasan ASEAN, seperti Malaysia dan Filipina, juga telah mengikuti langkah memblokir layanan Grok demi melindungi masyarakat dari konten negatif serupa.
Dialog dengan Induk Grok
Proses komunikasi dan dialog dengan X, perusahaan induk Grok yang juga dimiliki Elon Musk, telah berlangsung namun belum mencapai kesepakatan akhir. Pemerintah Indonesia terus mendorong penyelesaian masalah ini agar platform tersebut dapat memenuhi standar aturan dan etika yang berlaku di Indonesia.
Mekanisme Sanksi dan Pengawasan Konten
Pemerintah menggunakan sistem moderasi SAMAN yang dapat memberikan sanksi administratif hingga denda bagi pelanggar aturan. Nezar menjelaskan, sanksi dalam UU ITE bersifat pidana dan administratif sehingga dapat dijatuhkan sesuai tingkat pelanggaran yang ditemukan.
Upaya penegakan hukum ini penting sebagai bagian dari perlindungan terhadap penyebaran konten pornografi yang dimanipulasi melalui teknologi AI. Hal ini sekaligus menjadi peringatan bagi pengembang dan operator platform agar mematuhi regulasi Indonesia.
Tantangan Regulasi AI dan Pornografi Artifisial
Pengembangan teknologi artificial intelligence memunculkan tantangan baru bagi regulasi nasional. Pemerintah Indonesia berupaya menyusun peta jalan nasional dan etika AI yang dapat membatasi dampak negatif sekaligus memaksimalkan manfaat teknologi tersebut. Namun saat ini, Perpres AI yang sedang dibahas belum mencakup sanksi hukum spesifik terkait pornografi artifisial.
Sementara itu, kasus Grok menegaskan kebutuhan penegakan undang-undang yang ketat terhadap penyalahgunaan AI, terutama yang berpotensi melanggar norma sosial dan hukum pidana di Indonesia.
Penanganan Grok dan pornografi artifisial di platform digital menandai babak baru dalam regulasi teknologi. Pemerintah secara aktif menggunakan instrumen hukum yang ada untuk melindungi publik dari konten yang merugikan, termasuk dengan memblokir sementara akses dan membuka dialog dengan penyedia platform.
Langkah ini juga menjadi referensi bagi negara ASEAN lain yang menghadapi kasus serupa. Indonesia bersama Malaysia dan Filipina menunjukkan sikap tegas terhadap penyebaran pornografi artifisial melalui regulasi yang responsif dan penegakan hukum yang tegas.
-
-
-
-
