Dalam beberapa tahun terakhir, perkembangan teknologi AI agent melonjak pesat dan mulai mengisi berbagai ruang digital. Peneliti dari MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) mengungkapkan bahwa agen-agen AI kini banyak beroperasi di internet tanpa pengawasan keamanan memadai melalui laporan AI Agent Index 2025.
Minat terhadap penggunaan AI agent semakin tinggi. Data menunjukkan publikasi ilmiah yang membahas AI agent di tahun ini meningkat lebih dari dua kali lipat dibandingkan gabungan lima tahun sebelumnya. Survei McKinsey juga mencatat 62% perusahaan sudah mulai bereksperimen dengan teknologi ini dalam operasional mereka. Teknologi ini kini bukan sekadar konsep, melainkan bagian nyata dari ekosistem digital.
Klasifikasi dan Otonomi Agen AI
Penelitian MIT memetakan 30 agen AI populer dalam tiga kategori utama:
- Agen berbasis chat seperti ChatGPT Agent dan Claude Code
- Agen browser seperti Perplexity Comet dan ChatGPT Atlas
- Agen enterprise seperti Microsoft 365 Copilot dan ServiceNow Agent
Sebagian besar agen tersebut beroperasi dengan otonomi tinggi dan mampu menjalankan tugas lintas langkah tanpa pengawasan manusia. Misalnya, sistem Autobrowse milik Google yang mampu menavigasi situs, melakukan login otomatis, dan memproses data kompleks secara mandiri.
Kekhawatiran Keamanan dan Kurangnya Standar
Sekitar separuh dari agen yang diteliti tidak memiliki kerangka keamanan yang dipublikasikan. Sebagian malah tidak memiliki dokumentasi keamanan sama sekali. Lima agen bahkan tidak memenuhi standar kepatuhan yang berlaku. Kondisi ini membuka celah eksploitasi dan serangan siber, seperti teknik prompt injection yang menyusupkan perintah tersembunyi dalam interaksi.
Sebanyak sembilan dari 30 agen tidak memiliki dokumentasi perlindungan terhadap tindakan berbahaya. Hampir seluruh agen enggan membuka hasil pengujian keamanan internal maupun eksternal. Hanya empat agen yang menyediakan dokumen evaluasi keamanan khusus, yang biasa disebut system card.
Kesulitan Membedakan Aktivitas AI dan Manusia
Aktivitas AI agent di internet sangat mirip dengan perilaku manusia. Peneliti menemukan 21 dari 30 agen tidak menginformasikan pengguna atau pihak ketiga bahwa mereka adalah sistem AI. Beberapa agen bahkan menggunakan identitas teknis seperti User-Agent browser Chrome dan alamat IP lokal, membuat situs sulit membedakan antara bot dan pengguna manusia asli.
Beberapa produk justru mengandalkan kemampuan “menyamar” ini sebagai fitur unggulan. Agen open-source BrowserUse, misalnya, mengklaim mampu melewati filter anti-bot dengan menjelajah “seperti manusia.” Namun, sebagian besar agen tidak mempertimbangkan file robots.txt, CAPTCHA, maupun aturan API situs yang biasanya mengatur interaksi bot dalam platform web.
Tanda-tanda Regulasi dan Upaya Standarisasi
Menanggapi risiko ini, sejumlah perusahaan besar di bidang AI mulai membentuk konsorsium untuk mengembangkan standar pengembangan agen AI. Langkah tersebut bertujuan mendorong regulasi yang lebih baik serta transparansi yang menjadi fondasi kepercayaan.
Meski demikian, AI Agent Index menekankan masih ada kesenjangan besar dalam dokumentasi keamanan dan transparansi. Agen AI yang masif dan otonom kini beroperasi luas di internet dan lingkungan bisnis dengan pengawasan minimal. Ini berpotensi meningkatkan risiko penyalahgunaan, manipulasi data, dan ancaman keamanan siber pada skala yang lebih besar.
Tantangan dan Fokus Masa Depan
Dengan laju inovasi AI agent yang sangat cepat, tantangan terbesar bukan lagi hanya mengembangkan teknologi semata. Pengawasan, standar keamanan, dan transparansi harus disesuaikan dengan kecepatan adopsi agar teknologi ini dapat dipercaya dan aman digunakan secara luas.
Fokus ke depan adalah membangun kerangka kerja yang memastikan setiap agen AI dapat dites keselamatannya secara menyeluruh. Juga penting untuk mengatur mekanisme pelaporan identitas agar aktivitas AI tidak membingungkan sistem atau pengguna manusia. Jika langkah ini terlambat, risiko serangan siber dan penyalahgunaan data dapat meningkat drastis di era digital yang semakin kompleks.
Source: www.gadgetdiva.id
