Kepolisian Prancis melakukan penggerebekan di kantor X di Paris dalam rangka memperluas penyelidikan terkait chatbot AI milik platform tersebut, Grok. Penyelidikan ini berlangsung selama setahun dan fokus pada dugaan pengumpulan data ilegal serta keterlibatan dalam kepemilikan dan distribusi materi pornografi anak.
Kantor Kejaksaan Paris mengonfirmasi penggerebekan ini dan menyatakan bahwa Elon Musk serta mantan CEO Linda Yaccarino akan dipanggil untuk memberikan kesaksian dalam sidang yang dijadwalkan pada bulan April. Selain itu, karyawan lokal X juga akan dimintai keterangan sebagai bagian dari proses investigasi.
Isu Pelanggaran Hak Citra dan Konten Ilegal
Penyelidikan kini melibatkan berbagai pelanggaran potensial, seperti penggunaan Grok untuk membuat gambar seksual tidak konsensual yang melibatkan wanita dan anak-anak. Kejaksaan juga menyoroti tuduhan ekstraksi data secara curang oleh kelompok terorganisir yang berkaitan dengan aktivitas platform tersebut.
Kasus ini semakin meluas mencakup penyebaran "deepfake seksual" dan konten yang menolak Holocaust, sesuai penjelasan jaksa Paris, Laure Beccuau. Hal ini menunjukkan upaya aparat hukum untuk membatasi dampak negatif penyalahgunaan teknologi AI dalam konteks hukum dan etika.
Kontroversi dan Penolakan dari X
X membantah semua tuduhan dan menilai penyelidikan di Prancis sebagai "serangan bermotif politik" terhadap kebebasan berbicara. Pernyataan ini diungkapkan melalui wawancara dengan CNN beberapa bulan lalu.
Sebelumnya, regulasi di Inggris juga membuka penyelidikan terhadap xAI dan Grok karena potensi pembuatan konten seksual yang merugikan masyarakat. Kantor Komisaris Informasi Inggris menyatakan bahwa produksi dan penyebaran konten semacam ini merupakan pelanggaran serius terhadap hukum perlindungan data di negara tersebut.
Tanggung Jawab dan Regulasi Di Inggris
Pengawas komunikasi Inggris, Ofcom, meluncurkan investigasi menyusul banyak keluhan dari aktivis keamanan daring, politisi, serta perempuan yang menjadi korban penyalahgunaan oleh pengguna X melalui Grok. Penyelidikan ini menilai apakah X telah memenuhi kewajiban hukum menurut Undang-Undang Keamanan Online di Inggris.
Poin penting dari undang-undang tersebut meliputi:
- Mencegah pengguna di Inggris untuk mengakses konten ilegal prioritas seperti gambar intim non-konsensual dan materi pelecehan seksual anak.
- Menghapus konten ilegal dengan cepat.
- Melindungi pengguna dari pelanggaran undang-undang privasi.
- Menilai risiko terhadap anak-anak dan menerapkan verifikasi usia yang sangat efektif untuk mencegah akses ke konten pornografi.
Ofcom memiliki kewenangan untuk menjatuhkan denda hingga 24 juta dolar atau 10% dari pendapatan global, serta meminta pengadilan untuk memblokir situs jika ditemukan pelanggaran berat.
Pengawasan Uni Eropa
Badan Komisi Eropa juga mulai melakukan penyelidikan pada akhir Januari terhadap Grok, mengikuti jejak Prancis. Fokusnya adalah pada fitur rekomendasi algoritma X untuk menilai apakah platform menyebarkan konten ilegal, termasuk materi pelecehan seksual anak, sesuai dengan aturan digital di Uni Eropa.
Langkah Pencegahan dari X
Menanggapi tekanan global, X mengumumkan sejumlah langkah untuk mencegah pengguna memanfaatkan Grok dalam mengubah atau membuka gambar nyata menjadi konten seksual. Akun resmi Keselamatan X menegaskan bahwa pelaku pembuatan konten ilegal melalui Grok akan menghadapi sanksi yang sama seperti jika mereka mengupload konten ilegal.
Perusahaan tersebut juga menegaskan komitmen bekerja sama dengan pemerintah lokal dan aparat hukum guna menangani pelanggaran secara efektif. Hal ini menunjukkan adanya kesadaran terhadap pentingnya regulasi dan pengawasan dalam penggunaan teknologi AI yang berkembang pesat.
