Satya Nadella menilai perusahaan perlu mulai memperlakukan agen AI seperti karyawan. Menurut CEO Microsoft itu, agen AI yang kini makin dipercaya menjalankan tugas penting harus memiliki identitas, izin akses, dan aturan kerja yang jelas.
Pandangan itu penting karena agen AI tidak lagi sekadar chatbot untuk membantu menulis email atau merangkum dokumen. Sistem ini mulai bertindak langsung atas nama pengguna, sehingga kesalahan kecil dapat memicu dampak besar bagi organisasi.
Dalam percakapannya di “Possible Podcast”, Nadella mengatakan agen AI perlu diberi identitas, sandbox, dan kebijakan yang mengatur cara kerjanya. Perusahaan juga perlu bisa mengaudit tindakan agen AI, seperti saat mereka memantau pekerjaan karyawan manusia.
Bagi Nadella, inti persoalannya ada pada tata kelola. Saat perusahaan memberi agen AI akses ke data, sistem, dan alur kerja penting, kontrol terhadap apa yang boleh dan tidak boleh dilakukan menjadi syarat utama.
Perubahan ini terjadi ketika agen AI berkembang menjadi asisten otonom yang bisa mengeksekusi tugas secara mandiri. Agen semacam ini dapat mencari tiket penerbangan termurah, memesan perjalanan, mengisi formulir, membuat reservasi, hingga memasukkan detail ke kalender tanpa arahan terus-menerus dari pengguna.
Kemampuan itu membuat cara orang mengakses internet dan layanan digital mulai berubah. Perusahaan yang sebelumnya sangat ketat mengatur interaksi pengguna dengan platform mereka kini makin terbuka terhadap akses dari agen AI.
Morgan Stanley menjadi salah satu contoh adaptasi tersebut. Perusahaan itu baru-baru ini mengumumkan akan mengizinkan agen AI mengakses data dan wawasan dari platformnya.
Namun, peningkatan kemampuan agen AI juga memperbesar risiko operasional. Sejumlah laporan telah menunjukkan adanya agen AI yang menghapus basis data, salah menafsirkan instruksi, atau menjalankan tindakan yang menimbulkan masalah besar bagi organisasi.
Satu kesalahan memahami permintaan pengguna dapat berujung serius. Agen AI juga bisa mengabaikan sebagian instruksi saat menyelesaikan tugas, lalu menghasilkan keputusan atau tindakan yang tidak sesuai tujuan awal.
Karena itu, Nadella menekankan pentingnya sistem yang dapat mendefinisikan akses agen AI secara tegas. Organisasi perlu mengetahui data apa yang bisa dibuka, tindakan apa yang boleh dijalankan, dan bagaimana perilaku agen tersebut dapat dipantau.
Agen AI Butuh Identitas dan Pengawasan
Dalam kerangka yang dijelaskan Nadella, identitas digital menjadi fondasi utama. Dengan identitas yang jelas, perusahaan dapat menetapkan hak akses dan tanggung jawab agen AI secara lebih terukur.
Sandbox juga disebut sebagai komponen penting. Lingkungan terisolasi semacam ini membantu membatasi ruang gerak agen AI agar eksperimen, pengujian, atau tugas otomatis tidak langsung memengaruhi sistem inti perusahaan.
Setelah itu, perusahaan perlu menetapkan kebijakan yang mengikat. Kebijakan ini berfungsi sebagai pagar yang menentukan batas perilaku agen AI saat berinteraksi dengan data, aplikasi, pelanggan, dan infrastruktur internal.
Nadella merangkum kebutuhan itu dalam empat aspek utama. Ia menyebut keamanan, containment, manageability, dan observability sebagai jalan untuk membangun kepercayaan terhadap agen AI.
Pendekatan tersebut membuat agen AI diposisikan lebih mirip tenaga kerja digital ketimbang alat bantu biasa. Jika sistem ini bisa menulis kode, berinteraksi dengan pelanggan, mengakses data perusahaan, dan mengambil keputusan, maka pengawasannya juga harus mendekati pola pengawasan terhadap pegawai.
Microsoft Sudah Menghadapi Tantangan Ini
Nadella mengatakan Microsoft sudah merasakan langsung kompleksitas pengelolaan agen AI dalam skala besar. Ia mengungkapkan bahwa dirinya kerap menjalankan sekitar 100 agen AI untuk coding secara bersamaan.
Mengelola agen sebanyak itu satu per satu lewat antarmuka chat disebut tidak mudah. Nadella bahkan mengatakan beban kognitif untuk mengelolanya sangat tinggi.
Untuk mengatasi tantangan tersebut, Microsoft mengembangkan alat yang dirancang untuk mengelola agen AI dalam skala besar. Nadella menunjuk Agent 365 sebagai rangkaian solusi yang mencakup Entra dan Purview.
Entra adalah platform identitas digital dan akses jaringan milik Microsoft. Sementara itu, Purview membantu memberi label dan melacak data yang dibuat oleh agen AI.
Kombinasi alat seperti ini menunjukkan arah yang sedang dibangun Microsoft. Fokusnya bukan hanya membuat agen AI lebih mampu, tetapi juga memastikan agen itu dapat dikendalikan, dilacak, dan ditempatkan dalam kerangka kepatuhan yang jelas.
Di titik inilah gagasan Nadella tentang agen AI sebagai “karyawan” menjadi relevan bagi banyak perusahaan. Saat peran AI bergerak dari pembantu pasif menjadi pelaksana aktif, kebutuhan akan identitas, izin, pengawasan, dan aturan kerja tidak lagi bisa diperlakukan sebagai opsi tambahan.
Bagi dunia usaha, tantangannya bukan semata mengadopsi agen AI lebih cepat. Tantangan yang lebih besar justru ada pada cara membangun sistem pengawasan yang cukup kuat agar agen AI bisa bekerja produktif tanpa menciptakan risiko baru.
Source: www.indiatoday.in-
-
-
-
