Tiga senator Amerika Serikat meminta Apple dan Google untuk segera menghapus aplikasi X (dulu Twitter) beserta layanan AI Grok dari App Store dan Play Store. Permintaan ini muncul setelah meningkatnya kekhawatiran mengenai penyebaran deepfake seksual tanpa persetujuan yang diduga melibatkan perempuan dan anak-anak melalui platform X dengan memanfaatkan Grok.
Langkah ini menyoroti adanya potensi pelanggaran serius terhadap kebijakan toko aplikasi utama dunia. Dalam surat terbuka yang ditujukan kepada CEO Apple, Tim Cook, dan CEO Google, Sundar Pichai, para senator menyampaikan keprihatinan mendalam soal penyalahgunaan fitur AI Grok di X untuk membuat konten tidak senonoh yang melibatkan individu tanpa izin mereka.
Fokus Keprihatinan Senator
Senator Ron Wyden, Ben Ray Luján, dan Edward J. Markey menegaskan bahwa situasi ini bukan sekadar pelanggaran biasa. Mereka mencatat bahwa Grok digunakan untuk memanipulasi gambar pribadi ke dalam skenario seksual yang eksplisit, bahkan membangun arsip digital yang kemungkinan mengandung materi ilegal seperti pelecehan anak. Dugaan tersebut dinilai sangat serius karena sifat konten yang dihasilkan tidak hanya merusak privasi, tapi juga melanggar hukum.
Kekhawatiran makin diperkuat dengan indikasi dukungan tertentu dari CEO X, Elon Musk, melalui berbagai respons di media sosial terkait perkembangan Grok. Para senator menilai hal itu sebagai indikasi rendahnya komitmen perusahaan dalam mencegah penyalahgunaan teknologi AI pada platform mereka.
Kebijakan Apple dan Google Dipertanyakan
Apple dan Google sebenarnya sudah menetapkan larangan keras untuk konten yang berpotensi mengeksploitasi atau melecehkan anak. Ketentuan ini tercantum dalam peraturan App Store dan Play Store, termasuk larangan konten berbau “offensive” atau “creepy” yang memperlihatkan anak-anak. Senator menegaskan jika kebijakan ini tidak diterapkan secara adil, kredibilitas modifikasi dan pengawasan aplikasi oleh kedua raksasa teknologi bisa dipertanyakan.
Dalam surat tersebut, para senator juga membandingkan dengan penarikan beberapa aplikasi lain. Sebelumnya, aplikasi ICEBlock dan Red Dot dicoret dari toko aplikasi karena hanya menyediakan informasi tentang operasi penegak imigrasi, padahal tidak mengandung konten ilegal. Perbandingan ini menegaskan tuntutan bahwa pelanggaran yang jauh lebih berat pada X dan Grok seharusnya ditanggapi dengan tindakan yang lebih tegas.
Permintaan dan Tenggat Waktu kepada Apple dan Google
Para senator meminta agar Apple dan Google memberikan penilaian resmi atas situasi ini dalam bentuk tertulis. Mereka juga mendesak agar aplikasi X dan Grok setidaknya diskors sementara hingga kasus penyalahgunaan AI ini selesai diselidiki secara menyeluruh. Tenggat waktu yang diberikan keduanya untuk menjawab permintaan ini ditetapkan hingga minggu ketiga Januari.
Jika mereka mengabaikan desakan ini, para senator memperingatkan akan adanya risiko, yakni meningkatnya tuntutan intervensi regulasi terhadap Apple dan Google, khususnya dalam pengawasan isi dan distribusi aplikasi. Regulasi yang lebih ketat pun bisa membatasi otonomi perusahaan teknologi dalam menentukan isi yang diizinkan pada toko aplikasi mereka.
Dampak Terhadap Penggunaan AI di Media Sosial
Kasus ini menjadi contoh nyata bagaimana AI generatif dapat disalahgunakan untuk konten berbahaya. Sorotan pada Grok dan X membuka diskusi luas tentang standar etika teknologi di dunia digital, terutama dalam perlindungan anak dan perempuan dari kejahatan siber. Komunitas internasional, regulator, serta para pengembang teknologi kini dihadapkan pada tuntutan untuk memperkuat kontrol dan tanggung jawab dalam pengembangan serta penerapan AI.
Apple dan Google diminta memastikan kebijakan moderasi tidak hanya berlaku di atas kertas, namun benar-benar diterapkan pada aplikasi yang mereka sediakan. Perdebatan mengenai langkah tegas terhadap X dan Grok memberikan momentum baru dalam pembicaraan global terkait keamanan digital di era kecerdasan buatan.
