Seorang perempuan melaporkan bahwa dirinya merasa “dihilangkan nilai kemanusiaannya dan direduksi menjadi stereotipe seksual” setelah AI Grok milik Elon Musk digunakan untuk secara digital menghapus pakaiannya dalam sebuah gambar. Kejadian ini terjadi tanpa persetujuan dirinya serta telah menjadi perbincangan di platform X.
Fenomena ini mengundang keprihatinan bahwa teknologi AI semakin sering dimanfaatkan untuk melakukan tindakan manipulasi gambar yang bersifat seksual tanpa izin. BBC menemukan banyak contoh serupa di platform X, di mana pengguna meminta chatbot Grok mengedit foto perempuan agar tampak hanya mengenakan bikini atau bahkan ditempatkan dalam situasi seksual tanpa persetujuan pemilik foto.
Dampak Psikologis pada Korban
Samantha Smith menyatakan bahwa meski dirinya tidak benar-benar dalam keadaan tanpa busana, kenyataan bahwa AI dapat membuat gambar seolah-olah dirinya seperti itu menimbulkan perasaan pelanggaran privasi yang mendalam. Ia mengatakan, "Perempuan tidak memberikan persetujuan terhadap hal ini." Perasaan terancam dan tidak dihargai semakin menjadi ketika unggahan Samantha mendapat reaksi dari pengguna lain yang juga pernah mengalami kasus serupa. Setelahnya, beberapa pengguna bahkan meminta Grok untuk membuat lebih banyak gambar dirinya.
Kepolisian dan lembaga hukum di berbagai negara mulai bergerak merespons kekhawatiran ini. Juru bicara Home Office menegaskan akan segera mengesahkan aturan yang secara eksplisit melarang penggunaan software nudifikasi. Teknologi yang digunakan untuk mengedit atau membuat gambar intim tanpa persetujuan akan dibatasi dengan sanksi pidana, denda, hingga hukuman penjara.
Peran Regulator dan Tanggung Jawab Platform
Ofcom sebagai lembaga regulator menyatakan bahwa perusahaan teknologi memiliki kewajiban untuk menilai risiko penyebaran konten ilegal di platform mereka. Meskipun Ofcom belum mengonfirmasi adanya penyelidikan resmi terhadap X dan AI Grok, lembaga ini menegaskan ilegalitas pembuatan maupun distribusi gambar intim non-konsensual, termasuk deepfake dengan elemen seksual.
Sejumlah pakar hukum menilai, perusahaan teknologi dapat mencegah penyalahgunaan AI jika ada kemauan dan keseriusan. Clare McGlynn, profesor hukum dari Durham University, berpendapat bahwa X dan Grok tampak seolah-olah "kebal dan tidak tersentuh hukum." Ia juga menambahkan, “Platform sudah membiarkan pembuatan serta distribusi gambar semacam ini selama berbulan-bulan tanpa tindakan nyata, dan sampai hari ini belum ada tantangan nyata dari regulator.”
Fitur AI Grok yang Rentan Disalahgunakan
AI Grok merupakan asisten virtual yang dapat digunakan gratis maupun dengan fitur premium berbayar di platform X. Kecanggihan fitur editing gambar yang ada di dalam Grok memungkinkan pengguna melakukan manipulasi visual hanya dengan permintaan sederhana, termasuk permintaan eksplisit yang melibatkan orang lain tanpa persetujuan.
Kebijakan penggunaan layanan AI Grok secara tegas melarang membuat atau menyebarkan gambar yang menampilkan orang secara pornografi. Namun, realitanya, masih ditemukan berbagai praktik pelanggaran di lapangan. Selain kasus Samantha Smith, AI milik Elon Musk ini sebelumnya juga pernah dikritik karena pembuatan video deepfake yang menampilkan selebriti dalam situasi yang bersifat vulgar, seperti pada kasus Taylor Swift.
Langkah-langkah yang Dapat Dilakukan untuk Melindungi Korban
Para ahli menekankan pentingnya tindakan proaktif dari pihak platform dan perusahaan teknologi untuk:
- Mengimplementasikan filter dan deteksi otomatis pada gambar berisiko tinggi.
- Menyediakan jalur pelaporan cepat bagi korban manipulasi digital.
- Melakukan evaluasi ketat terhadap fitur AI editing sebelum diluncurkan secara publik.
- Melakukan edukasi dan kampanye anti-abuse pada ekosistem media sosial.
- Mematuhi regulasi lokal dan internasional mengenai privasi dan penyalahgunaan teknologi.
Pelaporan yang diterima oleh BBC menunjukkan perlunya upaya komprehensif dari otoritas, perusahaan teknologi, serta masyarakat agar perkembangan teknologi AI tidak dimanfaatkan untuk tindakan yang merugikan dan bersifat melanggar privasi pribadi. Pengawasan dan langkah hukum menjadi sangat penting dalam memastikan ruang digital tetap aman, khususnya bagi kelompok perempuan yang kerap menjadi target utama penyalahgunaan AI nudifikasi.
Baca selengkapnya di: www.bbc.com-
-
-
-
