Anggota parlemen Inggris Jess Asato mengambil langkah hukum terhadap xAI setelah gambar deepfake seksual yang dibuat lewat Grok disebut beredar tanpa persetujuannya. Gugatan itu menempatkan isu keamanan AI generatif di pusat perdebatan baru, karena kasus ini tidak hanya menyorot korban, tetapi juga pertanggungjawaban pengembang teknologi.
Lewat pengajuan di High Court Inggris, Asato menargetkan dugaan pelanggaran hukum perlindungan data dan penyalahgunaan informasi pribadi. Firma hukum AWO yang mewakilinya menyebut Asato menuntut ganti rugi finansial, penetapan pengadilan bahwa tindakan itu melanggar hukum, serta perintah agar xAI menghentikan pelanggaran yang masih berlangsung dan menerapkan perlindungan untuk mencegah penyalahgunaan di masa depan.
Konten palsu yang terus beredar
Menurut Reuters, setelah Asato secara terbuka mengutuk Grok pada Januari, konten fabrikasi mulai menyebar. Materi itu mencakup gambar dirinya mengenakan bikini dan sebuah video yang menggambarkan dirinya “dichloroform dan disiapkan untuk serangan seksual.”
Asato menyebut Grok telah menciptakan deepfake pornografi dan konten seksual yang merugikan ribuan perempuan dan anak-anak. Ia juga mengatakan kemampuan itu bukan kecelakaan atau sekadar penyalahgunaan, melainkan pilihan desain dari para pembuatnya.
Uji tanggung jawab pengembang AI
Ravi Naik, direktur hukum AWO sekaligus pengacara utama Asato, menyebut perkara ini sebagai uji coba penting untuk tanggung jawab hukum pengembang AI. Ia mengatakan kasus tersebut termasuk salah satu klaim pertama yang menguji tanggung jawab atas desain sistem AI, sekaligus menegaskan bahwa keselamatan tidak boleh diperlakukan sebagai pemikiran belakangan.
Perdana Menteri Keir Starmer mendukung langkah hukum itu dan menyebut gambar-gambar tersebut menjijikkan. Ia juga mengatakan dirinya “100%” mendukung tindakan yang diambil Asato, menurut Sky News.
xAI belum segera menanggapi permintaan komentar. Di saat yang sama, perkara ini muncul ketika perusahaan itu sudah menghadapi sejumlah tantangan hukum lain terkait kemampuan Grok menghasilkan gambar.
Tekanan hukum yang meluas
Sekitar pertengahan Januari, xAI mengumumkan perubahan yang membatasi fitur pengeditan gambar Grok dan melarang pembuatan gambar orang dengan pakaian terbuka di wilayah yang melarang konten semacam itu. Meski kemudian ada larangan perusahaan terhadap fitur nudifikasi, AWO mengutip pengujian NBC News yang menunjukkan Grok masih mampu membuat deepfake seksual setelah pembatasan diberlakukan.
Di Inggris, membuat atau meminta gambar deepfake nonkonsensual untuk orang dewasa kini juga telah menjadi tindakan ilegal. Di luar Inggris, Baltimore menggugat xAI pada Maret dengan argumen bahwa kemampuan Grok menghasilkan citra seksual fabrikasi melanggar undang-undang perlindungan konsumennya.
Pada bulan yang sama, tiga remaja Tennessee mengajukan class action terpisah dan menuduh model Grok digunakan lewat aplikasi pihak ketiga berlisensi untuk membuat materi pelecehan seksual anak yang menggambarkan mereka. Regulator di sejumlah negara juga telah membuka penyelidikan terhadap Grok, menurut Reuters.
Asato turut meminta orang-orang lain di Inggris yang gambarnya dimanipulasi Grok dengan cara yang “abusif atau merendahkan” untuk maju dan mendukung klaim hukum tersebut. Langkah itu memperluas kasusnya dari sengketa pribadi menjadi dorongan yang lebih besar untuk membuktikan seberapa jauh tanggung jawab hukum bisa dibebankan kepada pembuat sistem AI.
-
-
-
-
