Peningkatan pesat konten deepfake berbasis kecerdasan buatan (AI) memicu pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Kemenkomdigi) untuk mendesak platform digital global menyediakan fitur pendeteksian konten buatan AI. Langkah ini dinilai krusial untuk membantu masyarakat mengenali dan menangkal hoaks serta manipulasi yang semakin marak.
Fenomena Deepfake yang Meningkat Signifikan
Deepfake adalah teknologi manipulasi media yang mengubah wajah, suara, atau ekspresi seseorang dalam video agar tampak sangat nyata. Berdasarkan data dari Sensity AI, konten deepfake melonjak hingga 550% dalam waktu lima tahun terakhir. Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengungkapkan angka tersebut kemungkinan hanya permukaan dari jumlah sebenarnya yang jauh lebih besar, mengingat teknologi pembuatan deepfake kini mudah diakses dan sangat masif penggunaannya.
Nezar menekankan bahwa platform seperti Meta, Google, dan lainnya memiliki kapasitas komputasi dan algoritma yang canggih, yang dapat dimanfaatkan untuk mengembangkan fitur pendeteksi deepfake sekaligus hoaks yang bisa digunakan publik secara gratis dan inklusif. "Kalau kita meragukan isi sebuah konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya," ujarnya.
Upaya Pemerintah dalam Mengatur Pemanfaatan AI
Pemerintah berupaya menjaga keseimbangan antara inovasi teknologi dengan aturan yang ketat agar AI tidak disalahgunakan sebagai alat penyebaran konten negatif. Indonesia sudah memiliki perangkat hukum seperti UU Informasi dan Transaksi Elektronik (UU ITE), UU Perlindungan Data Pribadi (UU PDP), Peraturan Pemerintah Tindak Pidana Siber (PP TUNAS), dan sejumlah peraturan teknis yang mendukung. Saat ini, Kemenkomdigi juga sedang menyiapkan regulasi khusus yang mengatur pemanfaatan AI secara etis, bermakna, dan bertanggung jawab.
Kemenkomdigi menggandeng berbagai pihak, mulai dari organisasi masyarakat seperti Mafindo hingga media massa, dalam program cek fakta untuk memperkuat penyaringan informasi di ruang digital. Nezar juga mengingatkan pentingnya kerja sama semua stakeholder karena ruang digital adalah milik bersama yang harus dijaga dari penyebaran hoaks dan konten negatif.
Ancaman Deepfake dalam Berbagai Sektor
Awalnya, teknologi deepfake dikembangkan untuk mendukung industri kreatif, seperti pembuatan film dan hiburan. Namun, pemanfaatannya sering disalahgunakan untuk tujuan jahat, termasuk penipuan, pencemaran nama baik, dan manipulasi politik. Kasus manipulasi wajah mantan Menteri Keuangan Sri Mulyani menjadi contoh nyata dampak negatif deepfake yang dapat merusak reputasi seseorang.
Peningkatan konten deepfake yang drastis juga memunculkan risiko keamanan siber dan mengancam kepercayaan publik terhadap media digital. Oleh karena itu, mekanisme pendeteksian yang efektif dari platform digital global dianggap sebagai solusi penting agar pengguna dapat memverifikasi keaslian konten sebelum mempercayainya secara luas.
Kebutuhan Fitur Deteksi di Platform Digital Global
Nezar menggarisbawahi kebutuhan adanya fitur deteksi konten AI yang menjadi bagian layanan standar di platform digital global. Fitur ini memungkinkan publik secara luas mengakses teknologi yang mampu membedakan konten asli dan rekayasa deepfake agar dapat mencegah penyebaran informasi palsu. Keberadaan filter cerdas tersebut akan memperkuat literasi digital masyarakat sekaligus memperkecil ruang gerak penyebar hoaks.
Adanya fitur pendeteksian konten AI gratis juga diharapkan mendorong inklusivitas akses bagi pengguna internet di berbagai kalangan, sehingga tidak hanya para ahli teknologi saja yang dapat mengenali manipulasi digital. Hal ini sejalan dengan upaya pemerintah untuk menciptakan ruang digital yang sehat, aman, dan bertanggung jawab bagi seluruh warga negara.
Peran Ekosistem Digital dalam Menangkal Deepfake
Selain regulasi dan teknologi, peran serta aktif seluruh ekosistem digital sangat dibutuhkan. Pemerintah melalui Kemenkomdigi menjalin kolaborasi erat dengan berbagai komunitas, lembaga literasi media, serta pelaku industri konten untuk mengedukasi masyarakat tentang bahaya dan cara mengenali deepfake. Program cek fakta pun terus diperkuat agar menjadi alat ampuh dalam memerangi disinformasi berbasis manipulasi teknologi AI.
Meningkatnya ancaman dari konten deepfake mengingatkan semua pihak bahwa pengawasan dan tindakan preventif harus dilakukan secara terintegrasi. Dengan langkah bersama, risiko penyalahgunaan teknologi AI dapat diminimalkan dan masyarakat dapat menikmati manfaat kemajuan digital dengan lebih aman dan percaya diri.
