Kehadiran agen Artificial Intelligence (AI) otonom dalam bisnis kini membawa ancaman keamanan siber yang nyata. Risiko tersebut mencakup gangguan layanan pelanggan hingga kerusakan basis data penting perusahaan.
Pakar keamanan siber global, Kaspersky, memperingatkan bahwa tanpa pengawasan ketat, AI otonom dapat menyebabkan kerusakan serius. Mereka menekankan perlunya tindakan cepat oleh para pemimpin teknologi dan keamanan.
Tantangan Pengelolaan AI Otonom dalam Organisasi
Agen AI yang dapat mengambil keputusan dan mengakses data sensitif secara mandiri menghadirkan kendala tata kelola. Masalah ini semakin rumit karena alat TI dan keamanan tradisional tidak memadai untuk mengendalikan ancaman baru.
Para CIO dan CISO harus menghadapi realita bahwa kontrol standar tidak bisa mengatasi risiko dari sistem AI yang berjalan tanpa intervensi manual. Oleh karena itu, kebutuhan akan kebijakan pengelolaan AI yang lebih ketat menjadi sangat mendesak.
Strategi Pengendalian Ketat Berdasarkan Zero Trust
Kaspersky merekomendasikan pendekatan Zero Trust untuk mengurangi risiko dari penggunaan AI otonom. Pengontrolan akses yang ketat dan pemantauan menyeluruh menjadi fondasi utama strategi ini.
Berikut langkah-langkah penting yang perlu dijalankan organisasi untuk mengatur agen AI:
- Batasi otonomi agen AI dengan tugas terdefinisi ketat.
- Berikan akses hanya ke alat dan data yang diperlukan dalam mode baca saja.
- Gunakan token dan kunci API berumur pendek untuk mencegah penyalahgunaan kredensial.
- Tegakkan konfirmasi eksplisit dari manusia untuk tindakan berisiko tinggi.
- Jalankan kode AI dalam lingkungan terisolasi dengan kontrol lalu lintas ketat.
- Terapkan validasi data dan kebijakan pengecekan sebelum AI beroperasi.
Pengawasan berkelanjutan dan pencatatan terperinci sangat penting. Deteksi anomali perilaku agen dapat dilakukan dengan teknologi XDR dan analisis telemetri melalui SIEM. Log yang tidak bisa diubah disarankan agar audit dan investigasi forensik efektif jika terjadi insiden.
Pentingnya Pelatihan dan Pendidikan Pengguna
Kaspersky menekankan perlunya pelatihan berkala bagi seluruh pengguna sistem AI. Realitas operasional AI yang terus berkembang menuntut edukasi yang diperbaharui beberapa kali dalam setahun.
Selain itu, pelatihan khusus juga dianjurkan bagi analis SOC, pengembang, dan arsitek AI untuk memastikan keamanan model bahasa besar (LLM) dapat terjaga dengan baik. Kaspersky bahkan menawarkan kursus ahli yang berfokus pada keamanan LLM.
Dengan penerapan kontrol ketat dan peningkatan kesadaran, organisasi dapat memitigasi risiko yang ditimbulkan AI otonom. Ini penting demi menjaga keandalan sistem dan melindungi data perusahaan dari potensi penyalahgunaan.