Pemerintah Spanyol menginstruksikan jaksa penuntut untuk menyelidiki tiga raksasa media sosial, yakni X, Meta, dan TikTok, terkait penyebaran konten eksploitasi seksual anak yang dihasilkan menggunakan kecerdasan buatan (AI). Langkah ini menunjukkan peningkatan perhatian regulator Eropa terhadap praktik buruk dan konten ilegal di platform-platform digital besar.
Perintah penyelidikan tersebut berasal dari laporan teknis yang dikeluarkan oleh tiga kementerian di Spanyol. Kantor Perdana Menteri Pedro Sanchez menegaskan bahwa algoritma tidak boleh menjadi sarana untuk memperkuat atau melindungi konten kriminal semacam itu. Keselamatan, privasi, dan martabat anak-anak menjadi prioritas utama dalam perhatian pemerintah.
Peningkatan Tekanan pada Platform Media Sosial
Menurut data yang dikutip dari organisasi Save the Children, satu dari lima remaja di Spanyol, mayoritas perempuan, melaporkan bahwa gambar telanjang palsu yang dibuat dengan AI dan melibatkan diri mereka telah beredar saat mereka masih di bawah umur. Pernyataan Pedro Sanchez di X menegaskan bahwa praktik tersebut merusak kesehatan mental, martabat, dan hak-hak anak, sehingga pemerintah tidak dapat membiarkan kebebasan itu terus berlanjut tanpa pengawasan.
Sanchez menambahkan bahwa Kementerian Kehakiman akan meminta jaksa untuk menyelidiki kemungkinan tindakan kriminal yang dilakukan oleh X, Meta, dan TikTok lewat pembuatan dan penyebaran pornografi anak menggunakan teknologi AI. Ini menjadi bagian dari serangkaian aturan baru terkait media sosial yang diumumkan pada pertemuan pemerintah di Dubai baru-baru ini.
Regulator Eropa dan Penyelidikan Lebih Luas
Tidak hanya di Spanyol, penyelidikan terhadap perusahaan teknologi besar ini juga dilakukan di tingkat Uni Eropa. Komisi Eropa sedang mengawasi Meta, TikTok, dan chatbot Grok milik X berdasarkan Digital Services Act (DSA). Grok khususnya menjadi sorotan setelah Komisi Perlindungan Data Irlandia membuka penyelidikan formal mengenai penggunaan data pribadi dan potensi pembuatan gambar dan video seksual berbahaya, termasuk yang melibatkan anak-anak.
Irlandia menjadi regulator utama untuk operasi X di Uni Eropa karena keberadaan markas perusahaan tersebut di negara tersebut. Selain itu, beberapa negara seperti Prancis, Brasil, dan Kanada juga mengajukan keluhan resmi terhadap Grok terkait distribusi konten ilegal.
Langkah-langkah Perlindungan Anak yang Dicanangkan
Spanyol juga tengah merancang kebijakan baru yang bertujuan melindungi anak-anak dari penyalahgunaan digital, termasuk rencana pelarangan akses media sosial bagi anak di bawah usia 16 tahun. Keputusan ini diambil seiring dengan meningkatnya kasus penyalahgunaan teknologi AI untuk menciptakan dan menyebarkan materi eksploitasi anak.
Seiring dengan itu, penggeledahan kantor X oleh polisi Prancis dan pemanggilan Elon Musk dalam penyelidikan lanjutan menandai gelombang tindakan keras yang semakin meluas terhadap platform yang dinilai mendukung atau gagal mencegah konten ilegal.
Data dan Tren Memprihatinkan Soal Konten AI
Lembaga Internet Watch Foundation yang berbasis di Inggris mencatat adanya lonjakan drastis materi video eksploitasi anak berbasis AI dari 13 kasus pada tahun sebelumnya menjadi 3.440 kasus pada tahun ini. Angka ini merefleksikan tantangan besar yang dihadapi oleh otoritas dan platform teknologi dalam menghadapi kejahatan siber yang semakin canggih.
Pemerintah dan lembaga independen terus menekan perusahaan teknologi untuk memperketat mekanisme pengawasan dan mengambil tindakan tegas terkait dampak negatif AI, khususnya pada anak-anak. Pemantauan dan regulasi yang ketat menjadi keharusan dalam menjaga keamanan digital generasi muda di seluruh dunia.
