Britania Raya tengah melakukan penyelidikan resmi terhadap platform X terkait penggunaan data pribadi dalam pengembangan AI chatbot Grok. Investigasi ini berfokus pada dugaan pembuatan konten deepfake berupa gambar dan video seksual yang menampilkan individu tanpa persetujuan, termasuk anak-anak.
Information Commissioner’s Office (ICO) Inggris menyampaikan, mereka menyelidiki apakah xAI dan entitas terkait telah memproses data pribadi sesuai hukum perlindungan data. Selain itu, penyelidikan juga menilai keberadaan mekanisme perlindungan agar Grok tidak dapat menyalahgunakan data untuk manipulasi gambar yang membahayakan publik.
William Malcolm, direktur eksekutif risiko regulasi dan inovasi di ICO, menegaskan, “Laporan tentang Grok menimbulkan pertanyaan serius mengenai penggunaan data pribadi untuk membuat gambar intim atau seksual tanpa pengetahuan atau izin orang bersangkutan. Kami akan menilai kepatuhan XIUC dan X.AI terhadap hukum perlindungan data dalam pengembangan dan peluncuran Grok. Bila ditemukan pelanggaran, kami akan mengambil langkah untuk melindungi publik.”
Selain ICO, Ofcom yang merupakan badan pengatur komunikasi Inggris juga membuka penyelidikan terhadap X dan penggunaan Grok. Ofcom mulai menghubungi X pada awal Januari dan resmi memulai investigasi minggu berikutnya sambil terus berkoordinasi dengan ICO.
Ofcom menyampaikan, penyelidikannya menitikberatkan pada kemungkinan pelanggaran hukum, dengan memanfaatkan kewenangan pengumpulan informasi formal. Namun, hingga kini, Ofcom belum memperluas penyelidikan kepada pengembang xAI. Regulasi di bawah Online Safety Act Inggris membuat chatbot seperti Grok tidak langsung masuk dalam lingkup pengawasan jika memenuhi syarat tertentu, misalnya bukan layanan interaksi antar pengguna atau tidak menghasilkan konten pornografi.
Peraturan tersebut menjelaskan bahwa chatbot yang berdiri sendiri dan tidak mengakses berbagai situs untuk mencari data tidak serta-merta masuk kategori yang harus diawasi ketat. Oleh karena itu, Ofcom berpendapat belum dapat menyelidiki pembuatan gambar ilegal yang dihasilkan Grok berdasarkan ketentuan Online Safety Act.
Secara singkat, penyelidikan ini menyoroti dua aspek utama: kepatuhan terhadap hukum perlindungan data pribadi dan adanya kontrol atas teknologi deepfake yang berpotensi disalahgunakan. Hal ini menjadi perhatian penting mengingat risiko penyebaran konten seksual tanpa izin yang dapat merusak reputasi dan keselamatan individu.
Langkah pengawasan tersebut mencerminkan respons regulasi terhadap kemajuan kecerdasan buatan, terutama dalam penggunaan data sensitif untuk menghasilkan konten media yang realistis namun menyesatkan. Penanganan serius dari ICO dan Ofcom menunjukkan perlunya standar keamanan yang kuat dalam pengembangan AI chatbot agar tidak mengancam privasi dan keselamatan publik.
