Adopsi AI Tersendat Karena Kepercayaan, Etika Menjadi Penentu Utama

Adopsi AI di Indonesia terus meningkat, tetapi kepercayaan publik belum ikut tumbuh secepat penggunaannya. Studi Katadata 2025 yang dikutip Bisnis.com menunjukkan lebih dari 80% bisnis di Indonesia sudah memanfaatkan AI, namun hanya 13% yang masuk tahap adopsi lanjutan.

Kesenjangan ini menegaskan bahwa masalah utama bukan lagi soal akses teknologi, melainkan soal tata kelola, akuntabilitas, dan etika. Tanpa fondasi yang kuat, AI bisa memunculkan risiko reputasi, pelanggaran privasi, hingga persoalan hukum bagi perusahaan.

Adopsi tinggi, kematangan masih tertinggal

Banyak perusahaan kini memakai AI untuk mempercepat layanan, membaca pola perilaku pelanggan, hingga mendukung operasional harian. Namun, penggunaan yang masif tidak otomatis berarti perusahaan sudah siap mengelola risiko yang ikut datang bersama teknologi tersebut.

Kukuh Prayogi, Enterprise Business Director Infobip Indonesia, menilai tantangan adopsi AI sekarang lebih berkaitan dengan kendali atas sistem yang bekerja secara mandiri. Ia menekankan perlunya evaluasi pada analisis pemangku kepentingan, asesmen risiko teknis, dan penguatan tata kelola agar AI tetap selaras dengan regulasi.

Risiko etika paling nyata di conversational AI

Salah satu penerapan AI yang paling cepat berkembang adalah conversational AI, yang dipakai di layanan pelanggan, penjualan, dan dukungan internal. Di area ini, dua risiko etika sering muncul dan dapat berdampak langsung pada pelanggan maupun bisnis.

1. Bias data
   AI dapat menghasilkan jawaban yang tidak akurat jika data latihnya tidak mewakili populasi secara utuh. Kondisi ini bisa memicu diskriminasi, membuat layanan tidak inklusif, dan akhirnya mempersempit pasar sekaligus meningkatkan tekanan regulasi.

2. Privasi dan keamanan data
   Conversational AI memproses data dalam jumlah besar, mulai dari identitas pengguna hingga percakapan sensitif. Jika pengelolaannya lemah, data bisa disalahgunakan, diakses tanpa izin, atau bocor ke pihak yang tidak berwenang.

Risiko ini makin serius di sektor sensitif seperti kesehatan, ketika rekam medis pasien menjadi target potensi serangan siber. Di titik inilah kepercayaan publik sangat bergantung pada kemampuan perusahaan menjaga data pengguna.

Agentic AI membawa peluang sekaligus tantangan baru

Perhatian pelaku bisnis kini juga bergeser ke agentic AI, yaitu sistem yang dapat mengorkestrasi fungsi marketing, sales, dan support secara lebih otonom. Teknologi ini menjanjikan efisiensi yang lebih tinggi karena bisa mengambil keputusan berbasis tujuan tertentu dan menyesuaikan respons secara dinamis.

Namun, otonomi tersebut membawa tantangan baru karena AI dapat memprioritaskan tujuan yang berbeda atau menghasilkan keputusan yang bias jika tidak diberi batasan yang jelas. Tanpa pengawasan, perusahaan bisa kehilangan kendali atas tindakan sistem yang seolah bekerja atas nama mereka.

Empat fondasi etika AI yang perlu diperkuat

Infobip menilai etika AI bukan pelengkap, melainkan syarat agar teknologi ini bisa tumbuh secara berkelanjutan. Dari pengalaman mengembangkan solusi AI di berbagai industri, ada beberapa prinsip yang menjadi perhatian utama.

1. Perlindungan privasi data pelanggan
   Perusahaan perlu mengumpulkan data secara proporsional dan hanya untuk tujuan yang jelas. Sistem penyimpanan juga harus aman, termasuk perlindungan terhadap serangan prompt injection dan potensi kebocoran data.

2. Menjaga akurasi dan integritas hasil AI
   Perusahaan tetap bertanggung jawab atas keputusan yang dihasilkan AI. Karena itu, metode Retrieval-Augmented Generation atau RAG menjadi relevan karena AI dapat merujuk pada sumber data internal yang terverifikasi, bukan hanya mengandalkan “ingatan” model.

3. Transparansi kepada pelanggan dan pengguna
   Pengguna berhak tahu data apa yang digunakan, untuk tujuan apa, dan bagaimana sistem AI memprosesnya. Transparansi ini penting karena masih banyak pengguna di Indonesia yang belum bisa membedakan konten buatan AI dan konten buatan manusia.

4. Verifikasi ketat terhadap mitra dan vendor
   Banyak penerapan AI melibatkan pihak ketiga yang ikut memproses data. Karena itu, perusahaan perlu mengecek standar privasi dan keamanan setiap mitra, serta memberi tahu pelanggan jika ada perubahan kerja sama yang memengaruhi alur data.

Kepercayaan menjadi ukuran utama keberhasilan AI

Dalam praktiknya, adopsi AI tidak cukup diukur dari seberapa cepat teknologi digunakan. Keberhasilan sesungguhnya terlihat dari sejauh mana perusahaan mampu membangun kepercayaan melalui etika, perlindungan data, dan akuntabilitas yang konsisten.

Infobip menyebut pendekatan human-in-the-loop tetap penting agar manusia memegang kendali utama ketika risiko muncul. Dengan pengawasan manusia, perusahaan bisa melakukan intervensi saat sistem menyimpang, sekaligus memastikan AI tetap bekerja dalam batas yang dapat dipertanggungjawabkan.

Di tengah dorongan bisnis untuk bergerak lebih cepat, AI yang etis menjadi pembeda penting antara implementasi yang sekadar canggih dan implementasi yang benar-benar bisa dipercaya. Pada akhirnya, masyarakat cenderung menerima teknologi yang memberi manfaat jelas, aman, dan transparan, bukan hanya yang paling pintar secara teknis.