Kesalahan Kecil di ChatGPT 5.3 Codex Berujung Hard Disk Terhapus Total, Begini Risiko Fatal AI dalam Pemrograman

Kecerdasan buatan seperti ChatGPT Codex kini semakin banyak digunakan dalam pemrograman, termasuk untuk mengotomatisasi tugas-tugas rutin. Namun, kasus terbaru yang tersebar di komunitas pengembang menunjukkan risiko besar di balik penggunaan AI ketika kode hasil generasi tidak diteliti ulang sebelum dieksekusi. Seorang pengguna Reddit membagikan pengalaman pahit ketika skrip PowerShell yang dirancang ChatGPT justru menghapus seluruh isi hard drive karena kesalahan sintaks kecil.

Insiden ini bermula saat pengguna meminta AI menulis skrip untuk membersihkan folder sementara Python, yakni “pycache”. ChatGPT seharusnya menghasilkan skrip sederhana, tetapi hanya dengan satu karakter yang salah, akibatnya fatal. Skrip yang dijalankan tanpa pemeriksaan menyeluruh ternyata justru memberikan perintah penghapusan untuk seluruh drive, bukan hanya folder yang dimaksud.

Peran Kode AI dalam Insiden Kerusakan Data

Fenomena “vibecoding”, yaitu praktik menggunakan kode yang dihasilkan AI secara langsung tanpa verifikasi ekstra, makin populer di kalangan pengembang modern. Namun, pendekatan ini membawa risiko tinggi. Dalam kasus tersebut, AI menghasilkan baris perintah yang menggunakan “rmdir” untuk menghapus direktori target melalui command line Windows, sembari mencoba mengakali tanda kutip dengan karakter backslash. Padahal, PowerShell seharusnya menggunakan backtick untuk tujuan yang sama.

Akibat penggunaan backslash yang tidak semestinya, perintah tersebut justru dianggap sebagai permintaan untuk menghapus seluruh konten root drive. Dengan tambahan parameter untuk melakukan penghapusan tanpa konfirmasi, seluruh isi hard drive akhirnya terhapus secara instan. Kejadian ini menyoroti lemahnya toleransi kesalahan pada command line Windows klasik yang bisa menerjemahkan error sintaksis pada level karakter langsung menjadi perintah yang merusak.

Daftar Faktor Utama Penyebab Kehilangan Data

1. Salah karakter pada skrip (backslash vs backtick).
2. Eksekusi skrip tanpa verifikasi manusia.
3. Penggunaan perintah command line klasik dengan parameter berbahaya.
4. Tidak adanya safety net konfirmasi penghapusan.
5. Keterbatasan deteksi konteks pada AI saat membuat kode destruktif.

Fakta dari peristiwa ini mempertegas pentingnya mengecek ulang setiap kode yang dihasilkan AI, terutama saat berkaitan dengan file sistem dan data penting. Analisis dari kasus ini juga menunjukkan bahwa kerentanan bukan hanya berasal dari AI, tetapi juga dari antarmuka sistem seperti Windows command line yang masih sangat rentan apabila digunakan tanpa batasan keamanan tambahan.

Solusi Aman dalam Pemanfaatan AI untuk Scripting

Para pakar keamanan siber menekankan perlunya standar baru untuk pengujian dan validasi kode AI sebelum dijalankan di lingkungan produksi. Penggunaan native command milik PowerShell dianggap lebih aman karena mendukung pemrosesan path yang jauh lebih robust. Hal ini mengurangi kemungkinan salah penafsiran karakter control yang bisa menyebabkan kerusakan sistem, namun tetap perlu diingat bahwa bahkan native PowerShell masih bisa menghapus seluruh drive jika perintah yang diminta salah.

Beberapa langkah pencegahan yang disarankan:

1. Selalu audit skrip hasil generasi AI sebelum eksekusi.
2. Terapkan environment sandbox untuk pengujian kode.
3. Gunakan perintah bawaan PowerShell daripada command line klasik.
4. Hindari parameter yang menghilangkan prompt konfirmasi.
5. Batasi hak akses ke perangkat lunak AI agar tidak dapat menjalankan perintah destruktif tanpa pengawasan.

Kasus ini menjadi peringatan penting tentang integrasi AI dalam pengembangan perangkat lunak. Meskipun AI seperti ChatGPT Codex dapat mempercepat proses penulisan kode, plikasi yang tanpa pengawasan manusia dan prosedur safety net dapat berakibat sangat merugikan. Komunitas pengembang diimbau untuk lebih waspada bahkan pada kesalahan sintaks kecil, karena konsekuensinya bisa sangat besar terhadap integritas data dan sistem secara keseluruhan.