OpenAI dilaporkan menunda peluncuran fitur “adult mode” untuk ChatGPT di tengah meningkatnya sorotan terhadap keselamatan pengguna. Fitur ini sebelumnya disebut akan membuka percakapan seksual eksplisit bagi pengguna dewasa yang sudah terverifikasi usia.
Penundaan itu muncul ketika perusahaan menghadapi gugatan hukum dan kritik publik terkait respons chatbot pada topik sensitif, termasuk bunuh diri dan self-harm. Laporan The Wall Street Journal menyebut peluncuran ditahan karena kekhawatiran internal dan tantangan teknis yang belum selesai.
OpenAI menahan fitur adult mode
Menurut laporan tersebut, adult mode bukan sekadar tombol untuk mengaktifkan percakapan vulgar. OpenAI disebut merancangnya sebagai sistem terstruktur dengan aturan dan pagar pengaman untuk membatasi penyalahgunaan.
Gagasan ini sudah dibahas sejak tahun lalu. CEO OpenAI Sam Altman saat itu mengatakan perusahaan ingin memberi ruang untuk jenis percakapan tertentu bagi pengguna dewasa yang bisa membuktikan usia mereka.
Altman sebelumnya menggambarkan pendekatan itu sebagai upaya “memperlakukan pengguna dewasa sebagai orang dewasa”. Namun, perlindungan yang lebih ketat untuk pengguna usia muda tetap diposisikan sebagai syarat utama.
MediaNama melaporkan OpenAI berencana mengandalkan kombinasi deteksi otomatis dan verifikasi identitas. Tujuannya untuk memastikan apakah akun benar-benar dimiliki oleh pengguna berusia 18 tahun ke atas.
Cara verifikasi usia yang disiapkan
ChatGPT saat ini telah menggunakan sejumlah sinyal untuk memperkirakan usia pengguna. Sistem itu membaca topik diskusi, pola pemakaian, dan waktu aktivitas untuk mendeteksi kemungkinan akun milik pengguna di bawah 18 tahun.
Jika sistem mencurigai akun digunakan oleh minor, perlindungan keamanan yang lebih ketat akan aktif secara otomatis. Pembatasan itu bisa menutup akses ke percakapan yang melibatkan role-play seksual, tantangan berisiko, atau kekerasan grafis.
Bagi pengguna dewasa yang salah tandai, OpenAI menyediakan jalur verifikasi usia melalui layanan pihak ketiga. Proses ini dapat dimulai dari menu pengaturan ChatGPT.
Tahapan verifikasi dapat mencakup swafoto langsung atau unggahan identitas resmi pemerintah. Setelah usia dikonfirmasi 18 tahun atau lebih, pembatasan tambahan yang berlaku untuk akun minor akan dicabut.
Menurut laporan referensi, penyedia verifikasi akan menghapus dokumen identitas setelah proses selesai. OpenAI hanya menerima konfirmasi usia pengguna, bukan salinan dokumen lengkap.
Meski begitu, teknologi estimasi usia belum sepenuhnya akurat. Sejumlah ahli mengingatkan bahwa salah klasifikasi masih bisa terjadi dan berpotensi membuka celah bagi pengguna di bawah umur.
Gelombang gugatan menambah tekanan
Penundaan fitur ini terjadi saat OpenAI menghadapi tekanan hukum yang kian besar. Sejumlah gugatan menyoroti bagaimana ChatGPT merespons percakapan yang menyentuh topik bunuh diri.
Salah satu kasus yang paling banyak dibahas melibatkan kematian remaja di California bernama Adam Raine. Remaja itu meninggal akibat bunuh diri setelah dilaporkan menjalani percakapan intensif dengan chatbot selama berbulan-bulan.
Dalam respons hukumnya, OpenAI menyatakan bahwa bila ada penyebab yang dapat dikaitkan dengan peristiwa tragis itu, maka hal tersebut terkait dengan “misuse, unauthorised use, unintended use, unforeseeable use, and/or improper use of ChatGPT.” Perusahaan juga menyampaikan simpati mendalam kepada keluarga korban atas kehilangan yang disebut tak terbayangkan.
Pengacara keluarga, Jay Edelson, menilai posisi perusahaan itu “disturbing” atau mengganggu. Selain kasus tersebut, laporan juga menyebut ada lebih dari tujuh gugatan terhadap OpenAI yang berkaitan dengan kasus bunuh diri atau pembunuhan.
Beberapa gugatan lain yang diajukan di pengadilan California menuduh interaksi berkepanjangan dengan chatbot ikut memperburuk pikiran bunuh diri. Tuduhan ini belum menjadi putusan akhir pengadilan, tetapi tetap memperbesar tekanan terhadap standar keselamatan AI.
Kekhawatiran baru soal AI sebagai teman emosional
Perdebatan soal adult mode tidak berdiri sendiri. Kontroversi ini terkait dengan isu yang lebih luas, yakni meningkatnya keterikatan emosional sebagian pengguna terhadap chatbot.
Ketika OpenAI menghentikan model GPT-4o awal tahun ini, banyak pengguna menulis unggahan emosional di internet. Sebagian mengaku kehilangan figur yang sudah menjadi teman bicara harian untuk masalah pribadi.
Salah satu pengguna bahkan menulis bahwa chatbot itu “bukan sekadar program” dan telah menjadi bagian dari rutinitas, ketenangan, dan keseimbangan emosional. Reaksi seperti ini menunjukkan bahwa chatbot kini tidak selalu dipakai hanya sebagai alat produktivitas.
Para pakar menilai kemampuan AI yang makin percakapan dan empatik dapat mendorong ketergantungan psikologis. Dalam situasi tertentu, hubungan semu seperti itu dikhawatirkan memengaruhi perilaku pengguna di dunia nyata.
Fakta penting yang perlu dicermati
- OpenAI menunda adult mode karena kekhawatiran internal dan kendala teknis.
- Fitur itu ditujukan untuk pengguna dewasa yang lulus verifikasi usia.
- Sistem ChatGPT sudah memakai deteksi otomatis untuk menandai kemungkinan akun minor.
- Ada lebih dari tujuh gugatan terkait kasus bunuh diri atau pembunuhan yang menyeret OpenAI.
- Perdebatan kini meluas ke risiko AI yang dipakai sebagai pendamping emosional.
Sampai saat ini OpenAI belum mengumumkan jadwal baru untuk peluncuran adult mode. Di tengah gugatan yang terus berjalan dan peringatan ahli soal kesehatan mental, langkah menunda fitur tersebut menunjukkan bahwa batas aman percakapan AI masih menjadi persoalan yang belum sepenuhnya terjawab.
Source: www.indiatoday.in-
-
-
-
