Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria mengingatkan bahwa penyalahgunaan kecerdasan buatan atau AI makin sulit diabaikan karena ikut mendorong penipuan digital. Salah satu bentuk yang paling disorot adalah deepfake, yakni manipulasi suara, gambar, dan video yang kini bisa tampak sangat meyakinkan.
Nezar menyebut dampaknya sudah terasa pada kerugian finansial. Ia merujuk catatan OJK yang menyebut kerugian akibat scam pada tahun ini sekitar Rp9 triliun, dan banyak di antaranya memanfaatkan deepfake.
AI berkembang cepat, risiko ikut naik
Nezar menjelaskan bahwa perkembangan AI bergerak sangat cepat dari generative AI menuju agentic AI. Dalam beberapa tahun ke depan, teknologi itu juga diperkirakan memasuki fase physical AI hingga quantum AI.
Kemajuan itu memang membuka peluang besar bagi banyak sektor. Namun, ia menilai laju perkembangan tersebut juga menghadirkan tantangan baru di sisi keamanan dan etika.
Deepfake makin sulit dibedakan dari kenyataan
Menurut Nezar, deepfake kini menjadi salah satu bentuk penyalahgunaan AI yang paling mengkhawatirkan. Teknologi ini dapat meniru suara seseorang, menghidupkan wajah dalam gambar, lalu menyusunnya menjadi video yang terlihat sangat natural.
Ia menyebut kondisi itu sebagai synthetic reality atau realitas sintetis. Situasi ini membuat batas antara konten asli dan buatan AI menjadi makin tipis di mata masyarakat.
“Sekarang suara kita bisa ditiru, gambar wajah kita juga bisa dihidupkan,” kata Nezar dalam Indonesia Ethical AI Summit, Rabu (17/6/2026).
Masyarakat yang belum paham AI jadi sasaran empuk
Nezar menilai kelompok yang belum memahami perkembangan AI dengan baik menjadi pihak yang paling rentan. Pelaku kejahatan siber dapat memanfaatkan celah itu untuk menyusun skenario penipuan yang lebih meyakinkan daripada cara-cara lama.
Modus seperti ini berisiko menipu korban lewat konten yang tampak otentik, mulai dari suara, wajah, hingga video yang menyerupai orang yang dipercaya. Karena itu, literasi digital dinilai tetap menjadi lapisan perlindungan penting di tengah makin canggihnya teknologi.
Etika harus masuk sejak awal pengembangan
Nezar menekankan bahwa pengembangan AI tidak cukup hanya mengejar kemampuan teknis. Prinsip etika harus hadir sejak awal melalui pendekatan ethics by design agar keamanan tidak diperlakukan sebagai tambahan belakangan.
Ia menegaskan tiga unsur utama yang perlu diterapkan dalam pengembangan produk AI, yakni transparansi, akuntabilitas, dan keamanan. Ketiga hal itu menurutnya harus melekat dalam implementasi teknologi, bukan hanya menjadi slogan.
“Jadi apa yang kita sebut sebagai transparency, accountability, safety, itu harus ada di dalam implementasi, di dalam pengembangan suatu produk AI,” ujarnya.
Pembahasan etika AI, kata Nezar, juga tidak boleh berhenti di level konsep. Pengembang, regulator, dan pengguna perlu memastikan prinsip tersebut benar-benar dijalankan agar risiko penipuan digital, termasuk yang memakai deepfake, bisa ditekan sejak dini.