Meta mulai menyiapkan sistem yang dapat mengirim peringatan kepada orang tua ketika percakapan remaja dengan Meta AI menunjukkan indikasi risiko bunuh diri atau tindakan menyakiti diri sendiri. Mekanisme ini ditujukan bagi keluarga yang memakai fitur Instagram Parental Supervision.
Langkah tersebut membuat pengawasan orang tua tidak lagi hanya berfokus pada aktivitas umum di Instagram. Meta akan melibatkan penilaian sistem AI dan peninjauan manusia sebelum peringatan dikirimkan kepada wali.
Peringatan Tidak Langsung Dikirim
Meta menyatakan model AI khusus akan digunakan untuk mengenali percakapan yang berkaitan dengan bunuh diri maupun self-harm pada remaja. Namun, percakapan yang ditandai sistem tidak otomatis memicu notifikasi kepada orang tua.
Setiap kasus yang terdeteksi akan melalui peninjauan manual untuk mengurangi kemungkinan kesalahan deteksi yang dapat memicu kepanikan. Meski begitu, perusahaan memilih pendekatan hati-hati dan tetap mengirimkan peringatan apabila setelah peninjauan masih ada keraguan terhadap maksud pengguna.
Orang tua atau wali yang menerima notifikasi juga akan memperoleh panduan serta sumber daya dari ahli. Materi itu disiapkan untuk membantu mereka merespons situasi sensitif dan membuka percakapan dengan anak secara lebih tepat.
Peluncuran Bertahap di Empat Negara
Fitur peringatan ini mulai diluncurkan untuk pengguna Instagram yang memakai sistem pengawasan orang tua di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan ketersediaan global untuk seluruh pengguna Parental Supervision sebelum akhir 2026.
| Fitur | Jangkauan | Status |
|---|---|---|
| Notifikasi risiko percakapan Meta AI | Amerika Serikat, Inggris, Australia, Kanada | Mulai diluncurkan |
| Notifikasi risiko percakapan Meta AI | Pengguna Parental Supervision global | Ditargetkan sebelum akhir 2026 |
| Kontak layanan darurat | Remaja dan pengguna dewasa berisiko tinggi | Masih dikembangkan |
Menurut laporan www.medcom.id yang mengutip Engadget, pembaruan ini hadir di tengah sorotan terhadap cara chatbot AI merespons pengguna yang sedang mengalami krisis kesehatan mental. Perhatian paling besar tertuju pada perlindungan remaja yang dapat menggunakan AI untuk membahas persoalan pribadi.
Sebelum sistem peringatan orang tua ini diperkenalkan, Meta AI telah dirancang untuk mengarahkan remaja yang menyampaikan pikiran bunuh diri atau tindakan menyakiti diri ke layanan bantuan krisis. Chatbot itu juga didesain untuk mendorong pengguna berbicara dengan orang tua atau orang dewasa tepercaya.
Pembatasan Konten Kini Berlaku di Meta AI
Meta turut memperluas penerapan Limited Content ke dalam interaksi remaja dengan Meta AI. Jika pengaturan tersebut diaktifkan orang tua, chatbot akan memberikan respons yang lebih terbatas dan disesuaikan dengan usia pengguna.
Sebelumnya, Limited Content digunakan untuk menyaring konten sensitif di Instagram, termasuk visual dewasa serta materi terkait tindakan menyakiti diri sendiri. Perluasan ini membuat batasan serupa ikut diterapkan ketika remaja memakai chatbot AI di platform tersebut.
Pada April 2026, Meta juga mulai memberikan akses kepada orang tua untuk melihat kategori topik yang dibahas remaja dengan Meta AI selama tujuh hari terakhir. Pengaturan itu tidak menampilkan isi percakapan secara rinci, tetapi disertai panduan yang disusun bersama ahli agar keluarga dapat mendiskusikan penggunaan AI secara terbuka.
Sementara pada Februari 2026, perusahaan mengumumkan rencana mengirim notifikasi ketika remaja berulang kali mencari istilah terkait bunuh diri atau self-harm melalui Instagram Search. Sistem peringatan untuk percakapan dengan AI yang diumumkan saat itu kini mulai direalisasikan melalui pembaruan terbaru.
Opsi Menghubungi Layanan Darurat
Meta juga sedang mengembangkan kemampuan untuk menghubungi layanan darurat apabila percakapan dengan Meta AI menunjukkan seseorang berada pada risiko tinggi melakukan bunuh diri dalam waktu dekat. Fitur ini direncanakan tidak hanya berlaku bagi remaja, tetapi juga pengguna dewasa yang terdeteksi menghadapi ancaman serius terhadap keselamatan mereka.
Meta menyebut sistem tersebut dikembangkan bersama orang tua, lebih dari 75 tenaga kesehatan mental, serta kelompok penasihat keselamatan remaja. Kelompok ini membantu menentukan jenis percakapan yang dinilai cukup serius untuk memicu peringatan kepada orang tua atau wali.
Langkah Meta sejalan dengan upaya perusahaan AI lain memperkuat perlindungan terhadap pengguna yang berada dalam kondisi rentan. OpenAI, misalnya, pada Mei 2026 memperkenalkan Trusted Contact for ChatGPT agar pengguna dapat menunjuk seseorang yang dapat dihubungi ketika mereka dinilai berisiko menyakiti diri sendiri.
