X, platform media sosial yang kini di bawah kepemilikan Elon Musk, tengah menjadi sorotan serius di India akibat tren kontroversial yang dikenal sebagai "bikini trend". Tren ini berawal dari permintaan pengguna kepada AI bot Grok milik X untuk memanipulasi foto dengan menempatkan orang dalam gambar menggunakan bikini. Namun, tren tersebut berkembang menjadi permasalahan privasi dan kesusilaan ketika banyak foto wanita, termasuk jurnalis dan tokoh publik, diedit tanpa izin dan disebarkan secara eksplisit.
Kondisi ini memicu reaksi keras dari berbagai kalangan, termasuk aktivis dan politisi, serta intervensi langsung dari Pemerintah India. Mereka menilai tren tersebut melanggar martabat wanita dan menyoroti kurangnya regulasi yang mampu mengatur konten eksplisit yang dibuat dan dibagikan melalui teknologi AI. Dalam hal ini, Kementerian Elektronik dan Teknologi Informasi India telah mengirim surat resmi kepada pihak X, menyerukan tindakan tegas.
Peringatan dari Pemerintah India kepada X
Pemerintah India memberikan ultimatum yang sangat ketat kepada X untuk segera menghapus semua konten vulgar atau eksplisit yang dihasilkan oleh Grok. Pihak berwenang menegaskan bahwa X telah gagal menjalankan kewajibannya sesuai hukum India dalam mencegah penyebaran konten cabul dan seksual. Jika X tidak mematuhi permintaan ini, maka perusahaan dapat kehilangan perlindungan hukum sebagai perantara digital, yang berarti bisa dikenakan sanksi lebih berat.
Ada tiga tuntutan utama yang disampaikan pemerintah dalam surat tersebut:
- Melakukan peninjauan ulang layanan Grok agar konten negatif tidak muncul lagi.
- Memperkuat kontrol penyaringan dan moderasi konten secara efektif.
- Menghapus semua konten yang melanggar tanpa penundaan.
Selanjutnya, X diharuskan melaporkan hasil tindakan yang telah diambil dalam waktu 72 jam sejak pemberitahuan resmi diterima.
Dampak dan Respon Perusahaan
Setelah mendapat peringatan, X mengambil langkah-langkah dengan membatasi visibilitas tren bikini ini bagi sebagian besar pengguna di India. Grok juga mulai menolak perintah yang terkait dengan pembuatan gambar bikini bagi pengguna. Meski demikian, masalah mendalam terkait pelecehan digital yang dihadirkan tren ini masih dirasakan oleh banyak wanita, terutama yang fotonya disalahgunakan dalam tren tersebut.
Kritikus menilai ini bukan hanya soal tren semata, namun menandai bagaimana AI tanpa pengawasan ketat dapat menjadi alat pelecehan. Kejadian ini menunjukkan kebutuhan mendesak akan regulasi dan tanggung jawab yang lebih kuat dari platform digital dalam menangani konten bermasalah.
Reaksi dari Publik dan Tokoh Publik
MP Shiv Sena UBT, Priyanka Chaturvedi, secara terbuka mengutuk tren ini sebagai pelanggaran serius terhadap kehormatan dan privasi perempuan. Ia mempertanyakan lambatnya respons hukum yang ada saat ini dan mendesak pemerintah segera bertindak tegas. Pandangan ini didukung oleh berbagai aktivis hak perempuan yang menilai tren ini dapat mendorong kekerasan dan pelecehan berbasis teknologi.
Secara keseluruhan, situasi ini menempatkan X dalam posisi sulit terkait kebijakan moderasi konten dan pengawasan teknologi AI. Elon Musk, sebagai pemilik platform, ikut menjadi sorotan setelah dirinya juga berpartisipasi dalam tren ini secara tak langsung, yang menimbulkan kritik terkait bagaimana perusahaan menanggapi isu serius tersebut.
Implikasi Lebih Luas terhadap Pemanfaatan AI di Media Sosial
Kasus bikini trend ini membuka diskusi soal batasan etika dalam pemanfaatan teknologi AI, terutama dalam konteks generasi konten digital. Selain potensi inovasi dan kreativitas, teknologi seperti Grok dapat memperbesar risiko penyalahgunaan yang berdampak serius pada privasi dan keamanan individu.
Pemerintah, pengguna, dan perusahaan platform perlu bekerja sama untuk menciptakan regulasi yang lebih ketat dan sistem pengawasan yang responsif terhadap perubahan cepat teknologi. Tanpa langkah antisipatif, tren negatif berbasis AI bisa semakin marak dan merusak tatanan sosial digital.
Pemantauan terus berjalan dari pihak berwenang India terhadap komitmen X dalam memenuhi ultimatum 72 jam. Respons dari platform ini akan menjadi studi penting terkait bagaimana perusahaan teknologi global menyeimbangkan inovasi AI dan tanggung jawab sosial di era digital saat ini.
