Pemerintah India mengambil langkah tegas dalam menghadapi maraknya konten deepfake dan video suara AI yang tersebar luas di media sosial. Mereka mewajibkan semua platform sosial media, seperti Meta dan YouTube, untuk menandai setiap konten yang dihasilkan oleh kecerdasan buatan (AI) secara jelas dan tidak bisa dihapus.
Selain itu, pemerintah menetapkan aturan baru yang mengharuskan konten AI yang dianggap ilegal atau menyesatkan segera dihapus dalam waktu tiga jam setelah mendapat pemberitahuan dari pemerintah atau perintah pengadilan. Kebijakan ini diharapkan dapat mempercepat respon penghapusan konten berbahaya dan mencegah penyebaran informasi yang salah.
Label AI Pada Konten Sintetis
Menurut peraturan resmi yang dikeluarkan, setiap platform harus menambahkan label identifikasi pada konten sintetis, seperti video suara AI atau konten yang dihasilkan oleh algoritma pembelajaran mesin. Label ini bersifat permanen dan tidak boleh dihilangkan setelah diterapkan. Dengan demikian, pengguna media sosial dapat dengan mudah mengenali apakah suatu konten adalah hasil rekayasa AI atau bukan.
Penggunaan Teknologi Otomatis untuk Deteksi
Selain kewajiban pelabelan, platform juga diperintahkan menggunakan alat deteksi otomatis canggih. Teknologi ini berfungsi untuk memblokir penyebaran konten AI ilegal, menipu, ataupun yang mengandung eksploitasi seksual. Upaya ini merupakan bagian dari strategi pemerintah untuk menekan penyebaran konten yang merugikan dan melanggar hukum di ranah digital.
Peringatan Terhadap Pelanggaran AI
Peraturan juga mengatur bahwa platform wajib memberikan peringatan kepada penggunanya tentang konsekuensi hukum jika mengunggah konten AI yang menyinggung atau melanggar aturan. Pemberian peringatan ini harus dilakukan minimal sekali setiap tiga bulan agar kesadaran pengguna meningkat dan kasus penyalahgunaan teknologi AI dapat diminimalisir.
Target dan Implementasi Kebijakan
Aturan ini khusus ditujukan kepada perusahaan media sosial yang memiliki lebih dari 5 juta pengguna terdaftar di India. Keputusan ini merupakan lanjutan dari draf perubahan aturan IT Rules 2021, yang sudah mewajibkan keterbukaan mengenai konten yang diedit atau diubah secara sintetis.
Sejumlah platform besar telah menerapkan fitur pengungkapan konten yang disunting secara sintetis, namun dengan kebijakan ini, pemerintah mengesahkan kewajiban tersebut sebagai ketentuan yang mengikat. Hal ini penting untuk menciptakan transparansi yang lebih baik dan meningkatkan perlindungan terhadap pengguna.
Dampak Kebijakan Terhadap Pengguna dan Media Sosial
Dengan penerapan aturan tersebut, pengguna diharapkan akan lebih berhati-hati dalam membagikan konten yang mereka temui atau unggah. Transparansi mengenai konten deepfake dan AI dapat menghadirkan lingkungan digital yang lebih sehat serta mengurangi risiko manipulasi opini publik. Selain itu, aturan penghapusan cepat dalam waktu tiga jam menjadi langkah efektif untuk mencegah viralitas konten negatif.
- Label AI pada semua konten sintetis bersifat permanen dan wajib diterapkan.
- Konten deepfake ilegal harus dihapus maksimal 3 jam setelah perintah.
- Platform wajib menggunakan teknologi otomatis untuk mendeteksi konten terlarang.
- Pengguna harus menerima peringatan berkala setiap tiga bulan soal konsekuensi unggahan konten AI melanggar aturan.
- Kebijakan hanya berlaku untuk media sosial dengan jumlah pengguna lebih dari 5 juta.
Langkah pemerintah India ini menjadi contoh bagaimana regulasi digital bisa membantu mengontrol penyebaran informasi palsu dan menyalahgunakan AI. Pengawasan ketat dari otoritas serta mekanisme otomatis akan meningkatkan kredibilitas konten yang beredar di media sosial. Dengan demikian, kepercayaan pengguna terhadap platform digital dapat terjaga dan potensi dampak negatif dari deepfake maupun konten manipulatif dapat ditekan secara signifikan.
