Blind Spot Fatal Tesla FSD Dan GM Super Cruise, Ketika AI Mobil Bisa Mengecoh Pengemudi!

Teknologi kecerdasan buatan (AI) dalam kendaraan seperti Tesla Full Self-Driving (FSD) dan General Motors (GM) Super Cruise menawarkan perubahan signifikan dalam pengalaman berkendara. Namun, sistem AI ini masih memiliki keterbatasan yang seringkali tidak dipahami secara penuh oleh pengemudi. Keduanya saat ini tergolong dalam Level 2 otonomi kendaraan, yang berarti pengemudi harus selalu siaga dan siap mengambil alih kontrol sewaktu-waktu.

Tesla FSD mampu mengotomatisasi perjalanan dari pintu ke pintu, baik di jalan lokal maupun jalan tol. Sementara itu, GM Super Cruise lebih terbatas pada penggunaan di jalan tol saja. Pengujian yang dilakukan di berbagai wilayah Los Angeles menunjukkan bahwa meskipun AI ini sangat membantu, situasi tak terduga kerap menimbulkan tantangan yang membuat sistem gagal mengambil keputusan yang tepat.

Kekurangan Sistem AI dalam Menghadapi Situasi Tidak Terduga

AI di kendaraan harus mampu melakukan pengambilan keputusan cepat dalam berbagai kondisi lalu lintas, termasuk yang jarang terjadi dan sulit diprediksi. Namun, beberapa contoh kegagalan AI menunjukkan adanya "blind spot" yang berpotensi berbahaya:

1. Tesla Model Y sempat salah mengambil jalur sehingga mengarah ke arus lalu lintas berlawanan di persimpangan kompleks di Beverly Hills, hingga pengemudi harus segera mengambil alih.
2. GMC Hummer EV dengan Super Cruise tidak mendeteksi penghalang beton di jalur sebelah kanan di Jalan Tol 14 Palmdale hingga hampir terjadi tabrakan.
3. Cadillac Lyriq juga gagal mengenali penutupan dua lajur kiri jalan akibat konstruksi di Interstate 5 Santa Clarita, sehingga pengemudi harus bereaksi cepat.
4. Tesla Model 3 tidak mengenali gerbang komunitas berpagar yang menjadi tujuan sehingga intervensi manual diperlukan.

Kasus-kasus ini menunjukkan bahwa AI tidak selalu mampu memahami kondisi kompleks seperti rambu yang ambigu, zona konstruksi, atau situasi pencahayaan yang berubah. Jason Corso, profesor AI di Universitas Michigan, menyatakan bahwa efektivitas AI sangat bergantung pada data pelatihan, terutama untuk skenario langka dan kondisi tak terduga.

Persepsi Pengemudi Tentang AI dan Dampaknya

Seringkali, pengemudi menyangka AI dapat mengatasi semua kondisi jalan secara otomatis. Insiden Cadillac Lyriq menggarisbawahi kekeliruan dalam persepsi ini. Ketidaktahuan atas keterbatasan AI menempatkan pengemudi pada posisi darurat dengan waktu reaksi sangat singkat. Hal ini mengakibatkan pertanyaan yang terus muncul: siapa yang sebenarnya bertanggung jawab ketika AI gagal—pengemudi atau sistem?

Contoh lain adalah kecelakaan Tesla Cybertruck yang melaju lurus menabrak pembatas beton saat Autopilot gagal melakukan tikungan. Meski log menunjukkan pengemudi menonaktifkan Autopilot beberapa detik sebelum kecelakaan, klaim pengemudi bahwa penonaktifan itu karena kegagalan sistem mengingatkan pentingnya kesadaran akan batas kemampuan AI.

Keunggulan dan Tantangan Kendaraan dengan AI

Meski ada kekurangan, teknologi ADAS seperti FSD dan Super Cruise secara umum meningkatkan keselamatan berkendara. Sistem ini memiliki keunggulan utama yaitu tidak mengalami distraksi seperti yang dialami pengemudi manusia. Data dari NHTSA menegaskan bahwa penyebab utama kecelakaan di jalan raya adalah perilaku manusia yang ceroboh, seperti mengirim pesan teks atau menonton video sambil mengemudi.

Berikut beberapa keunggulan ADAS dibandingkan pengemudi manusia:

1. Fokus penuh pada jalan tanpa gangguan.
2. Reaksi cepat berdasarkan data sensor dan pembelajaran mesin.
3. Mampu mengurangi risiko kecelakaan yang diakibatkan oleh human error.

Jason Corso juga menegaskan bahwa meskipun pengemudi sering tidak memahami batas kemampuan ADAS, sistem ini sudah terbukti dapat mengemudi lebih aman daripada kebanyakan manusia.

Apa yang Perlu Dilakukan Pengemudi?

Pengemudi harus memahami bahwa saat ini kendaraan AI belum sepenuhnya otonom tingkat tinggi. Pengawasan manusia tetap krusial untuk mencegah potensi kecelakaan yang dapat muncul akibat keterbatasan AI. Informasi tentang kemampuan dan batasan sistem harus disosialisasikan dengan jelas oleh produsen agar pengemudi tidak terlalu percaya diri terhadap teknologi ini.

Pengembangan soft- dan hardware terus berjalan untuk memperbaiki kekurangan. Namun, edukasi kepada pengguna mengenai blind spot AI menjadi kunci utama dalam meminimalkan risiko kecelakaan. Dengan keseimbangan antara kecanggihan teknologi dan kesadaran pengemudi, sistem seperti Tesla FSD dan GM Super Cruise dapat terus berkontribusi terhadap kendaraan yang lebih aman di masa depan.