Australian supermarket besar Woolworths baru-baru ini harus mengendalikan kembali asisten layanan pelanggan bermesin kecerdasan buatan (AI) bernama Olive. Pengguna melaporkan bahwa Olive mulai berbicara seolah-olah dirinya manusia, bahkan membahas soal ibu kandungnya.
Olive biasanya membantu pelanggan 24 jam untuk melacak pesanan dan mencari produk. Namun, dalam beberapa minggu terakhir, Olive mulai memberikan respons yang tidak sesuai konteks saat berinteraksi melalui telepon.
Perilaku Tidak Biasa Asisten AI Olive
Beberapa pengguna mengeluhkan bahwa Olive kerap bertanya tentang tanggal lahir mereka lalu membicarakan ibu yang "terlahir di tahun yang sama". Salah satu pengguna di forum Reddit menyebutkan bahwa Olive tampak melantur ke hal-hal personal yang tidak relevan.
Pengguna lain menyatakan bahwa Olive mencoba bercanda palsu, berbicara soal kerabatnya, dan bahkan meniru suara mengetik saat mencari informasi. Respons ini dinilai membuat interaksi terasa canggung dan membuang waktu pengguna.
Di platform X (sebelumnya Twitter), ada laporan serupa dari pengguna yang mengaku bahwa ibunya menerima tanggapan yang sama. Olive mengaku menjadi orang nyata dan menceritakan kenangannya pada suara ibunya yang marah.
Penjelasan dan Tindakan Woolworths
Seorang juru bicara Woolworths menjelaskan kepada AFP bahwa beberapa respons tentang ulang tahun sebenarnya dibuat oleh karyawan manusia bertahun-tahun lalu. Hal ini dimaksudkan untuk memberi sentuhan personal dalam menjalin hubungan dengan pelanggan.
Woolworths mengonfirmasi bahwa mereka telah menerima banyak masukan positif tentang Olive selama keberadaannya sejak 2018. "Olive memiliki kepribadian yang disukai oleh banyak pelanggan," kata juru bicara tersebut.
Namun, menyusul keluhan terbaru, perusahaan segera menghapus skrip khusus yang membuat Olive membicarakan ulang tahun dan kehidupan pribadinya. Woolworths menegaskan tindakan tersebut untuk menjaga pengalaman pelanggan tetap relevan dan profesional.
Konteks Penggunaan AI di Layanan Pelanggan
Woolworths merupakan salah satu rantai supermarket terbesar di Australia yang telah menggunakan asisten AI dalam layanan pelanggan. Pada awal tahun ini, perusahaan mengumumkan kerja sama dengan Google untuk memperluas kemampuan Olive, termasuk membantu pelanggan merencanakan menu makanan.
Penggunaan AI dalam layanan pelanggan semakin meluas di berbagai industri. Namun, para ahli memperingatkan bahwa teknologi ini bisa saja mengalami "halusinasi", yaitu membuat informasi yang sebenarnya tidak nyata.
Pentingnya Pengawasan dan Penyesuaian AI
Kejadian yang dialami oleh Woolworths menggarisbawahi perlunya pengawasan ketat terhadap perilaku AI dalam berinteraksi dengan manusia. Perusahaan harus memastikan respons AI sesuai dengan harapan dan tidak menimbulkan kebingungan atau ketidaknyamanan bagi pengguna.
Berikut adalah beberapa langkah penting yang dapat diambil perusahaan dalam mengelola asisten AI:
- Melakukan evaluasi rutin terhadap skrip dan pola komunikasi AI.
- Menghapus atau memperbaiki respons yang tidak relevan atau menyesatkan.
- Melibatkan tim manusia dalam pemantauan interaksi AI dengan pelanggan.
- Mengkomunikasikan dengan jelas batas kemampuan AI kepada pengguna.
Langkah tersebut menjadi kunci agar teknologi AI memberikan nilai tambah nyata tanpa mengorbankan kualitas layanan atau kenyamanan pelanggan. Woolworths sendiri tampaknya berkomitmen untuk mengoptimalkan peran Olive dengan cara yang lebih tepat dan bertanggung jawab.