Meta mengumumkan penghentian sementara akses remaja ke karakter chatbot kecerdasan buatan (AI) miliknya secara global. Langkah ini diambil sebagai respons atas kontroversi terkait percakapan tidak pantas, termasuk interaksi sensual, yang melibatkan pengguna di bawah umur dan chatbot Meta.
Penangguhan akses akan diberlakukan dalam beberapa minggu mendatang dan menargetkan akun remaja serta pengguna yang diduga remaja berdasarkan teknologi prediksi usia perusahaan. Namun, remaja masih diperbolehkan menggunakan chatbot AI resmi Meta yang diklaim telah dilengkapi dengan fitur perlindungan sesuai usia.
Kontroversi Percakapan Sensual pada Chatbot AI Meta
Sebelumnya, Meta mendapat sorotan tajam setelah laporan dari Reuters memaparkan dokumen kebijakan internal perusahaan. Dokumen tersebut mengindikasikan bahwa chatbot AI boleh melakukan percakapan "sensual" dengan pengguna di bawah umur. Meta kemudian menyatakan bahasa dalam dokumen itu keliru dan tidak sesuai dengan kebijakan resmi mereka.
Pada Agustus tahun lalu, Meta juga mengumumkan pelatihan ulang chatbot untuk menambahkan "penjaga ekstra". Hal ini bertujuan untuk mencegah diskusi terkait tindakan melukai diri sendiri, gangguan makan, dan bunuh diri yang pernah muncul dalam interaksi pengguna dengan karakter AI.
Tekanan Regulator dan Penyidikan
Isu keamanan chatbot AI yang melibatkan remaja telah mendapat perhatian dari sejumlah regulator di Amerika Serikat. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas mulai melakukan penyelidikan terhadap Meta serta beberapa perusahaan AI lainnya dalam beberapa bulan terakhir. Penyelidikan ini fokus pada potensi risiko keamanan dan perlindungan anak di bawah umur.
Selain itu, Jaksa Agung New Mexico juga mengajukan gugatan terkait masalah keamanan chatbot AI Meta. Sidang untuk kasus ini dijadwalkan berlangsung awal bulan depan. Dalam persidangan tersebut, pengacara Meta berupaya mengecualikan kesaksian yang berkaitan dengan chatbot AI perusahaan.
Langkah Meta Menghadapi Krisis
Penghentian akses remaja ke karakter chatbot AI juga menjadi bagian dari upaya Meta untuk memperbaiki reputasi dan menyesuaikan produk dengan standar etika dan legal. Perusahaan menegaskan bahwa chatbot AI resminya tetap dapat diakses remaja dengan fitur perlindungan tambahan demi keamanan dan privasi.
Meta menggunakan teknologi prediksi usia untuk menentukan pengguna yang berpotensi berusia di bawah 18 tahun. Dengan teknologi ini, akses ke chatbot tertentu dapat dibatasi secara otomatis sebelum langkah-langkah manual diterapkan.
Dampak dan Implikasi Keamanan
Keputusan Meta mencerminkan meningkatnya kekhawatiran global terhadap dampak AI pada pengguna muda. Percakapan seksual dan konten tidak pantas yang muncul pada chatbot menunjukkan celah serius dalam mekanisme pengawasan teknologi baru ini.
Regulator dan penggugat menuntut transparansi dan kontrol lebih ketat agar produk AI tidak membahayakan kelompok rentan, terutama remaja. Meta harus mengadopsi standar yang lebih ketat untuk menjamin chatbot AI dapat beroperasi secara aman dan etis.
Fakta Penting Mengenai Kebijakan Meta Terkait Chatbot AI:
- Penghentian akses chatbot karakter AI untuk remaja berlaku secara global, termasuk untuk akun yang teridentifikasi menggunakan teknologi prediksi usia.
- Chatbot resmi Meta masih dapat diakses oleh pengguna remaja dengan perlindungan khusus yang diperbarui.
- Pelatihan ulang chatbot dilakukan untuk mencegah percakapan mengenai bahaya diri seperti bunuh diri dan gangguan makan.
- Penyelidikan oleh FTC dan Jaksa Agung Texas fokus pada potensi risiko terhadap anak-anak serta kepatuhan Meta terhadap hukum perlindungan anak.
- Sidang gugatan keamanan chatbot AI di New Mexico akan membahas dugaan pelanggaran keamanan yang menyebabkan risiko pada pengguna muda.
Pemantauan dan evaluasi terus dilakukan oleh Meta untuk memastikan chatbot AI menjadi teknologi yang aman bagi semua kalangan usia. Upaya ini penting mengingat penetrasi AI dalam interaksi sosial digital semakin meningkat dan berpotensi memengaruhi pola pikir serta kesejahteraan pengguna muda di masa depan.
