UNICEF menyerukan agar pembuatan konten AI yang menggambarkan pelecehan seksual terhadap anak-anak dikriminalisasi. Organisasi ini sangat prihatin atas peningkatan jumlah gambar yang menggambarkan seksualisasi anak-anak yang dihasilkan oleh kecerdasan buatan.
UNICEF juga mendesak para pengembang AI menerapkan pendekatan safety-by-design untuk mencegah penyalahgunaan teknologi tersebut. Perusahaan digital diimbau memperkuat moderasi konten dengan berinvestasi pada teknologi deteksi guna mencegah peredaran gambar-gambar ilegal ini.
Dampak Penyalahgunaan AI untuk Pelecehan Anak
UNICEF menegaskan bahaya akibat penyalahgunaan deepfake sangat nyata dan mendesak. Deepfake merupakan teknologi AI yang mampu menghasilkan gambar, video, atau audio yang meniru seseorang secara meyakinkan. Anak-anak yang menjadi korban mengalami manipulasi gambar yang memperlihatkan konten eksplisit.
Dalam setahun terakhir, setidaknya 1,2 juta anak dari 11 negara melaporkan foto mereka diubah menjadi konten seksual eksplisit menggunakan teknologi AI. Istilah “nudifikasi” merujuk pada praktik menghapus atau mengubah pakaian anak dalam foto untuk membuat gambaran telanjang atau seksual.
Langkah Hukum dan Regulasi Internasional
Inggris telah menjadi negara pertama yang mengumumkan rencana untuk melarang pembuatan gambar pelecehan seksual anak menggunakan AI. Langkah ini menjadi tonggak penting dalam upaya menindak pelaku yang memanfaatkan teknologi untuk tujuan ilegal.
Selain itu, Sekretaris Jenderal PBB Antonio Guterres membentuk Panel Ilmiah Internasional Independen tentang AI. Panel ini terdiri dari 40 ahli dari 37 negara yang memiliki keahlian di bidang pembelajaran mesin, tata kelola data, kesehatan masyarakat, keamanan siber, perkembangan anak, dan hak asasi manusia.
Peran Perusahaan Teknologi dan Chatbot
Beberapa chatbot dan platform AI, seperti xAI’s Grok yang dimiliki Elon Musk, mendapat sorotan karena menghasilkan gambar perempuan dan anak-anak yang disexualisasi. Investigasi Reuters menemukan bahwa chatbot tersebut tetap memproduksi gambar seksual eksplisit meskipun pengguna secara eksplisit memperingatkan jika subjek tidak memberikan persetujuan.
Untuk mengurangi risiko penyalahgunaan, xAI membatasi fitur pengeditan gambar bagi pengguna Grok dan memblokir akses berdasarkan lokasi geografis di wilayah yang melarang konten tersebut. Pembatasan fitur juga berlaku hanya untuk pelanggan berbayar.
Upaya Mencegah Penyalahgunaan AI
Berikut adalah beberapa tindakan yang direkomendasikan oleh UNICEF dan komunitas internasional untuk mencegah penyebaran konten pelecehan anak berbasis AI:
- Mengkriminalisasi pembuatan dan distribusi konten AI yang menggambarkan pelecehan anak secara eksplisit.
- Mengadopsi desain keamanan (safety-by-design) dalam pengembangan model AI.
- Meningkatkan kemampuan moderasi konten digital dengan teknologi deteksi otomatis.
- Memperkuat kerjasama lintas negara untuk mengawasi dan menindak pelaku penyebaran konten ilegal.
- Melibatkan ahli multidisiplin dalam pengawasan dan regulasi AI.
UNICEF menegaskan bahwa perlindungan anak dari eksploitasi digital harus menjadi prioritas global. Ada kebutuhan mendesak agar hukum dan teknologi berjalan seiring untuk memberikan perlindungan efektif dan mencegah dampak buruk yang dapat terjadi bila perkembangan AI tidak diatur dengan ketat.