Gen AI kini tidak hanya memudahkan kerja ilmiah, tetapi juga membanjiri ekosistem sains dengan konten otomatis berkualitas rendah. Dari jurnal akademik hingga platform terbuka, gelombang tulisan, kode, dan ulasan hasil model bahasa besar mulai mengganggu proses verifikasi yang selama ini menjadi fondasi riset.
Masalahnya bukan sekadar volume yang meningkat, melainkan kualitas yang menurun dan makin sulit dibedakan dari karya asli. Sejumlah temuan yang dirujuk dalam artikel referensi menunjukkan bahwa sains kini sedang “tenggelam” dalam spam AI, sementara sistem yang bergantung pada kepercayaan ikut terdampak.
Ledakan konten otomatis di dunia riset
Para peneliti dari UC Berkeley dan Cornell menelaah jutaan makalah terbaru dan menemukan pola yang mengkhawatirkan. Di beberapa bidang, jumlah kiriman naskah naik hingga 50 persen, tetapi mutu rata-ratanya justru turun.
Mereka menyebut artikel yang sebagian besar dibuat otomatis cenderung jauh lebih rendah kualitasnya dibanding tulisan manusia. Dampaknya terasa pada reviewer, lembaga pendanaan, dan pembuat kebijakan yang harus memilah mana riset yang layak didukung dan mana yang hanya tampak meyakinkan di permukaan.
Masalah serupa muncul di luar jurnal ilmiah. Para penerbit kini menghadapi sekitar setengah juta permintaan untuk setiap satu pengunjung sah, sementara proyek open-source dilaporkan dibanjiri kode generatif yang membuat kontributor manusia kewalahan.
AI tidak hanya memproduksi noise, tapi juga mengubah standar penilaian
Ancaman terbesar dari spam AI bukan cuma teks palsu yang menumpuk. Sebuah studi yang dikutip dalam artikel referensi menunjukkan bahwa penyuntingan oleh large language model sering mengubah kesimpulan yang awalnya ingin disampaikan penulis.
Dalam praktiknya, model bahasa bisa menghapus bagian yang mendukung klaim tertentu atau membuat tulisan menjadi terlalu netral dan bahkan terlalu positif terhadap teknologi, termasuk pada topik mobil otonom. Efek ini berbahaya karena mendorong homogenitas dan mengurangi ruang bagi orisinalitas.
Temuan itu juga menyoroti bahwa ulasan berbasis AI cenderung memberi skor tinggi pada kepatuhan terhadap pola umum, tetapi merendahkan gagasan yang tidak lazim meski bernilai. Dengan kata lain, institusi bisa menjadi “lebih bodoh” saat terlalu bergantung pada AI untuk menilai karya ilmiah.
Saat alat bantu berubah menjadi sumber kerusakan
Ada keyakinan bahwa AI bisa dipakai untuk melawan spam AI, tetapi kenyataannya tidak sesederhana itu. Saat model bahasa dipakai untuk menyaring atau memperbaiki naskah, risiko distorsi tetap besar karena sistem ini mudah menghaluskan, menormalkan, atau bahkan mengubah makna.
Masalah lain muncul ketika materi hasil AI kemudian disitasi oleh peneliti lain. Rantai ini bisa menciptakan efek “food chain” yang tercemar, karena informasi yang lemah terus dipakai ulang lalu dianggap sah.
Setidaknya ada beberapa bentuk kerusakan yang mulai terlihat di ekosistem riset, yaitu:
- Artikel otomatis yang tampak rapi tetapi dangkal.
- Review yang mendorong konformitas dan menekan kebaruan.
- Sitasi terhadap materi keliru atau hasil halusinasi.
- Penutupan akses oleh platform karena banjir bot dan konten palsu.
Sains juga masih dibayangi masalah lama
AI tidak menciptakan semua masalah ini dari nol. Sebelum ledakan generative AI, sains sudah menghadapi krisis replikasi, terutama di bidang seperti psikologi, ketika ribuan temuan disebut tidak bisa diulang oleh peneliti lain.
Laporan sebelumnya dari Nature pada 2021 juga menyebut adanya ribuan artikel “paper mill” berkualitas rendah yang tersembunyi di dalam korpus ilmiah. Kehadiran AI membuat produksi teks yang terdengar masuk akal menjadi jauh lebih murah, sehingga volume sampah ilmiah meningkat lebih cepat.
Kondisi ini ikut memengaruhi mahasiswa dan peneliti muda. Studi dari Massachusetts Institute of Technology berjudul Your Brain on ChatGPT menunjukkan bahwa kapasitas mental mahasiswa menurun cukup drastis saat mereka menggunakan chatbot dibandingkan dengan Google atau tanpa alat bantu apa pun.
Klaim besar soal AI masih belum terbukti
Optimisme terhadap AI di sains dulu tumbuh dari janji bahwa pola besar data bisa menggantikan metode ilmiah tradisional. Namun, gagasan bahwa proses “hipotesis, model, uji” bisa menjadi usang kini terlihat terlalu jauh dari kenyataan.
Pernyataan dari tokoh industri seperti Demis Hassabis juga menunjukkan batas teknologi ini. Ia mengakui bahwa LLM sangat kuat dalam pengenalan pola, tetapi tidak benar-benar memahami kausalitas.
Dengan kondisi itu, tantangan utama sains bukan lagi hanya memanfaatkan AI untuk mempercepat riset, tetapi juga menjaga agar alat tersebut tidak merusak proses yang bergantung pada ketelitian, intuisi, dan penilaian manusia yang kritis.
