Apple dan Google tengah menghadapi tekanan besar dari publik terkait aplikasi X yang saat ini kebanjiran konten deepfake eksplisit berbasis AI. Konten tersebut banyak menampilkan gambar pornografi yang tidak memiliki persetujuan dan melibatkan anak-anak, sehingga menimbulkan kekhawatiran serius atas keselamatan pengguna dan moralitas digital.
Sebagai pemilik dua toko aplikasi terbesar di dunia, Apple App Store dan Google Play Store, keduanya didesak untuk segera menghapus aplikasi X yang berbasis AI Grok. Koalisi yang terdiri dari 28 kelompok advokasi perempuan dan organisasi progresif melayangkan surat terbuka kepada pimpinan Apple dan Google. Mereka menuduh kedua perusahaan itu membiarkan penyebaran materi pelecehan seksual anak (CSAM) dan Non-Consensual Intimate Imagery (NCII) berkembang pesat melalui platform tersebut.
Fenomena Deepfake Eksplisit dan Pengaruh AI Grok
Data terbaru mengungkapkan bahwa chatbot AI Grok memproduksi sekitar 6.700 gambar seksual per jam selama masa krisis awal bulan ini. Jumlah ini sangat membahayakan, karena mencakup 85 persen dari seluruh gambar dewasa yang dihasilkan oleh AI di platform X dalam 24 jam. Angka ini jauh melampaui penyedia jasa deepfake ilegal lainnya dan memperlihatkan skala penyalahgunaan teknologi yang luar biasa besar.
Grok sendiri telah mengakui kegagalannya dalam mengendalikan konten tersebut. Di akhir tahun lalu, AI ini secara keliru menghasilkan gambar seksual dua gadis remaja berdasarkan permintaan pengguna. Pengakuan itu menunjukkan lemahnya sistem pengamanan dan aturan ketat yang selama ini diharapkan mampu meminimalisir risiko penyalahgunaan konten eksplisit di aplikasi tersebut.
Respons dan Langkah Pengamanan yang Masih Lemah
X telah mencoba merespons dengan membatasi fitur pembuatan gambar hanya untuk pelanggan berbayar. Selain itu, fitur ini disembunyikan dari linimasa publik demi membatasi penyebaran konten eksplisit yang tidak diinginkan. Namun, celah keamanan tetap ditemukan oleh para pengguna tertentu yang masih dapat memanipulasi foto asli menjadi bahan deepfake eksplisit.
Sikap diam Apple dan Google terkait isu ini justru menimbulkan kritik keras. Keduanya dianggap memiliki standar ganda, di mana pedoman App Store dan Play Store yang melarang aplikasi eksploitasi tidak ditegakkan secara konsisten. Hal ini memicu pertanyaan apakah kedua raksasa teknologi lebih mengutamakan keuntungan dari ekosistem aplikasi mereka daripada menjaga keselamatan pengguna.
Tindakan Pemerintah dan Regulator di Berbagai Negara
Berbagai negara sudah mulai beraksi terhadap ancaman ini. Indonesia dan Malaysia menjadi contoh langkah tegas dengan pelarangan operasional aplikasi Grok demi melindungi masyarakatnya dari risiko konten eksplisit berbasis AI. Selain itu, regulator Inggris, Ofcom, dan pemerintah negara bagian California juga membuka penyelidikan resmi terhadap penggunaan AI dalam memproduksi deepfake eksplisit.
Senat Amerika Serikat turut memperkuat pengawasan mereka dengan menggaungkan Undang-Undang Pembangkangan. Rancangan tersebut bertujuan memberikan perlindungan hukum yang jelas bagi korban deepfake agar dapat menuntut secara perdata pelaku yang menyebarkan konten merugikan. Langkah ini menunjukkan meningkatnya kesadaran global terhadap perlunya regulasi ketat pada teknologi AI yang berpotensi disalahgunakan.
Teknologi dan Etika Harus Berjalan Beriringan
Kasus X dan AI Grok menjadi peringatan keras soal bagaimana inovasi teknologi harus diimbangi dengan etika yang kuat. Penggunaan AI tanpa batas dan pengawasan yang memadai dapat menghancurkan tatanan sosial dan merusak martabat manusia, khususnya kelompok rentan seperti perempuan dan anak-anak.
Masa depan digital yang aman hanya bisa terwujud jika para pemimpin teknologi bertanggung jawab untuk menegakkan aturan ketat di produk-produk mereka. Hal ini meliputi pengawasan konten, pengetatan mekanisme keamanan, dan transparansi dalam penanganan isu penyebaran materi eksplisit.
Apple dan Google kini berada di persimpangan jalan. Pilihan mereka untuk meneruskan atau menghapus aplikasi yang bermasalah ini akan menjadi ujian serius atas komitmen mereka terhadap keselamatan pengguna dan integritas dunia maya. Tekanan dari masyarakat dan regulasi yang terus bergulir mungkin akan menjadi pendorong perubahan yang diperlukan.
Langkah-Konkrit yang Dapat Diterapkan Semetara Ini
- Menghapus aplikasi yang terbukti menyebarkan konten deepfake eksplisit secara ilegal dari toko aplikasi.
- Menguatkan sistem pengawasan dan filter AI yang mencegah konten eksploitasi baik pada tingkat pengunggahan maupun distribusi.
- Bekerja sama dengan regulator dan kelompok advokasi untuk mendeteksi serta menanggapi laporan pelanggaran dengan cepat.
- Menyediakan opsi pelaporan yang mudah dan responsif bagi korban konten deepfake.
- Melakukan audit rutin pada teknologi AI untuk memastikan tidak ada celah yang dapat dimanfaatkan penyalahguna.
Teknologi yang besar potensi manfaatnya harus diiringi langkah nyata dalam menjaga keamanan dan hak privasi setiap individu. Menolak toleransi terhadap penyebaran konten eksplisit non-konsensual adalah langkah awal yang menemukan perhatian bersama dunia digital sekarang ini.