Kominfo dan Kementerian Komunikasi dan Digital Republik Indonesia (Komdigi) menegaskan bahwa pemblokiran terhadap platform Grok AI milik X (sebelumnya Twitter) akan tetap dilanjutkan. Kebijakan ini berlaku hingga fitur yang memungkinkan manipulasi foto menjadi konten vulgar dihapus dari platform tersebut.
Wakil Menteri Komunikasi dan Digital, Nezar Patria, menyatakan bahwa fitur manipulasi foto yang mengubah gambar menjadi konten pornografi tersebut jelas melanggar sejumlah regulasi di Indonesia. Regulasi yang dilanggar antara lain Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pornografi, serta beberapa Peraturan Menteri dari Kementerian Kominfo dan Komdigi.
Alasan Pemblokiran Grok AI
Nezar Patria menjelaskan bahwa keputusan pemblokiran sementara Grok AI didasari oleh kekhawatiran nilai-nilai yang dianut di Indonesia terkait konten pornografi. “Foto yang diubah menggunakan kecerdasan buatan menjadi konten pornografi jelas bertentangan dengan norma dan hukum yang berlaku,” tutur Nezar usai menghadiri acara di Jakarta. Langkah ini diambil demi menjaga keamanan dan moral masyarakat dari potensi penyalahgunaan teknologi generatif AI.
Sejak 10 Januari, Komdigi sudah menerapkan pemutusan akses sementara terhadap Grok AI. Tindakan ini merupakan respons cepat terhadap potensi penyebaran konten deepfake atau pornografi yang merugikan dan berbahaya. Menteri Komunikasi dan Digital, Meutya Hafid, sebelumnya juga menyampaikan bahwa keputusan tersebut bertujuan melindungi perempuan, anak-anak, serta seluruh masyarakat dari risiko eksploitasi melalui teknologi kecerdasan buatan.
Upaya Dialog dengan Pihak X
Komdigi telah membuka saluran komunikasi dengan pihak pengembang Grok AI, X, guna membahas solusi terkait fitur manipulasi foto vulgar. Nezar Patria menyebutkan bahwa percakapan masih berjalan dan belum ada kesepakatan final. “Diskusi masih berlangsung, belum ada keputusan yang diambil secara rinci,” ujarnya. Hal ini menunjukkan bahwa pemerintah Indonesia memberi kesempatan bagi pihak terkait untuk melakukan perbaikan sesuai ketentuan hukum nasional.
Dampak dan Kontroversi Grok AI
Popularitas Grok AI sempat meningkat karena kemampuannya dalam mengolah gambar menggunakan teknologi AI generatif. Namun, fitur yang memungkinkan penyebaran gambar tidak senonoh menimbulkan keprihatinan luas. Elon Musk, pemilik X, diketahui sempat tidak mengetahui bahwa Grok AI memiliki fitur tersebut. Kasus ini ikut memunculkan gugatan hukum, terutama dari pihak yang merasa dirugikan akibat manipulasi foto yang terjadi.
Berikut adalah beberapa poin krusial terkait kasus Grok AI di Indonesia:
- Pemblokiran dilakukan sejak 10 Januari untuk melindungi masyarakat dari konten pornografi dan deepfake.
- Fitur manipulasi foto vulgar dianggap melanggar UU ITE, UU Pornografi, serta beberapa regulasi internal Kominfo dan Komdigi.
- Komdigi aktif berdialog dengan pihak pengembang Grok AI agar fitur bermasalah dapat dihapus.
- Pemerintah menempatkan perlindungan perempuan, anak-anak, dan masyarakat sebagai prioritas utama.
Dengan terus berlangsungnya pemblokiran hingga fitur bermasalah dihapus, Komdigi memberikan sinyal tegas mengenai pentingnya aturan dan etika dalam pemanfaatan teknologi kecerdasan buatan. Kasus ini sekaligus menjadi pengingat bagi pengembang platform global tentang perlunya penyesuaian konten sesuai norma hukum setiap negara. Pemblokiran Grok AI menjadi langkah preventif yang penting untuk menjaga keamanan digital dan digital literacy masyarakat Indonesia terhadap potensi penyalahgunaan teknologi AI.
