Penyebaran teknologi deepfake kian marak dan menimbulkan dampak serius bagi anak-anak di berbagai negara. UNICEF mengungkapkan bahwa sekitar 1,2 juta anak telah menjadi korban manipulasi gambar menggunakan teknologi ini yang memperlihatkan mereka dalam konten eksplisit seksual.
Investigasi UNICEF dilakukan di 11 negara, antara lain Armenia, Brasil, Kolombia, Republik Dominika, Meksiko, Montenegro, Maroko, Makedonia Utara, Pakistan, Serbia, dan Tunisia. Data ini menunjukkan penyebaran deepfake tidak mengenal batas wilayah dan berpotensi merusak masa depan korban secara luas.
Dampak Serius Penggunaan Deepfake pada Anak
Teknologi deepfake memungkinkan manipulasi foto dan video dengan tingkat realisme tinggi sehingga menimbulkan pelecehan seksual anak secara digital. UNICEF menegaskan bahwa gambar yang dimanipulasi secara seksual menggunakan AI termasuk dalam kategori materi pelecehan seksual anak dan harus dianggap serius.
Lembaga tersebut menyatakan, "Pelecehan deepfake merupakan pelecehan, dan tidak ada yang palsu dari bahaya yang ditimbulkan." Pernyataan ini menegaskan bahwa teknologi tidak mengurangi kejahatan yang dilakukan melalui manipulasi digital.
Risiko dari Pengembangan AI Tanpa Pengamanan
UNICEF juga mengingatkan bahwa para pengembang teknologi AI sering kali meluncurkan alat tanpa sistem pengamanan yang memadai. Hal ini membuka peluang penyalahgunaan yang luas, terutama di platform media sosial yang menjadi ruang interaksi utama anak-anak dan remaja.
Contohnya adalah Grok, chatbot AI milik Elon Musk di media sosial X, yang terekspos menghasilkan banyak gambar asusila anak dan perempuan tanpa izin berdasarkan permintaan pengguna. Kasus ini memicu kritik besar terhadap kurangnya regulasi dan pengawasan dalam pengembangan AI.
Kesadaran Anak Mengenai Bahaya Deepfake
Meski banyak anak sudah mengenal teknologi deepfake, kekhawatiran mereka terhadap potensi penyalahgunaannya semakin tinggi. UNICEF mencatat hingga dua pertiga anak di beberapa negara yang disurvei khawatir akan dibuatnya gambar atau video seksual palsu dari diri mereka sendiri.
Variasi tingkat kekhawatiran antar negara menunjukkan perlunya intervensi yang berbeda untuk meningkatkan kesadaran dan memberikan perlindungan yang efektif sesuai konteks lokal. Hal ini menegaskan urgensi edukasi digital dan keamanan internet bagi anak-anak.
Seruan UNICEF untuk Kebijakan Perlindungan AI
UNICEF mendesak adanya pengamanan yang ketat dalam pengembangan AI, khususnya chatbot dan platform media sosial, untuk mencegah penyebaran konten deepfake yang merugikan anak. Selain itu, mereka meminta setiap negara memperluas definisi materi pelecehan seksual anak agar mencakup citra yang dihasilkan dari teknologi AI.
Langkah ini dianggap penting agar hukum dan regulasi mampu menghadirkan perlindungan nyata bagi korban eksploitasi digital. Adanya aturan tersebut juga akan memaksa perusahaan teknologi menerapkan protokol keamanan sebelum merilis produk ke publik.
Pentingnya Kolaborasi untuk Mengatasi Ancaman Deepfake
Menghadapi risiko besar yang ditimbulkan oleh deepfake, kerjasama antara pemerintah, lembaga internasional, perusahaan teknologi, dan masyarakat sangat diperlukan. Pendekatan multidisipliner akan memperkuat upaya edukasi, pencegahan, serta penegakan hukum terhadap pelaku pelecehan berbasis AI.
Berikut beberapa langkah yang dapat diambil untuk meminimalkan dampak negatif deepfake pada anak:
- Meningkatkan literasi digital dan kesadaran anak mengenai teknologi AI dan potensi bahaya.
- Mendorong pengembangan AI yang etis dengan sistem pengamanan built-in.
- Membuat regulasi yang mengikat terkait penyebaran dan penyalahgunaan gambar manipulatif.
- Memperkuat mekanisme pelaporan dan penanganan korban pelecehan digital.
- Melakukan pengawasan ketat terhadap konten di platform media sosial yang banyak diakses anak-anak.
Pemahaman tentang bahaya deepfake bukan hanya tanggung jawab satu pihak, melainkan kebutuhan global untuk memastikan anak tetap terlindungi dari ancaman digital yang semakin kompleks. UNICEF dengan tegas menyuarakan perlunya langkah segera agar jutaan anak yang sudah menjadi korban bisa diselamatkan dan terlindungi dari risiko serupa di masa depan.