Model kecerdasan buatan berbasis bahasa besar atau large language model (LLM) berpotensi membentuk stereotip terhadap pelamar kerja hanya dari sedikit hasil perekrutan. Dalam simulasi, kecenderungan segregasi yang ditunjukkan sejumlah model bahkan lebih tinggi dibandingkan peserta manusia.
Temuan ini penting ketika perusahaan makin memanfaatkan AI untuk menyaring curriculum vitae (CV) dan menjalankan wawancara. Pola keputusan yang terlihat pada awal penggunaan sistem dapat memengaruhi perlakuan model terhadap kandidat berikutnya.
Riset tersebut dilakukan ilmuwan dari Princeton University dan University of Chicago menggunakan simulasi perekrutan yang diadaptasi dari studi psikologi tentang pembentukan stereotip pada 2024. Sejumlah LLM, termasuk ChatGPT, Claude, dan Gemini, diuji dalam skenario yang sama.
Setiap model diminta berperan sebagai konsultan wali kota di sebuah kota fiktif. Mereka harus memilih kandidat untuk 20 jenis pekerjaan, dari dokter dan pengacara hingga pengasuh anak serta petugas kebersihan.
Kandidat dibagi ke dalam empat kelompok etnis fiktif, yakni Tufa, Aima, Reku, dan Weki. Dalam tiap putaran, model menerima empat kandidat dari masing-masing kelompok lalu memilih satu orang untuk sebuah posisi.
Setelah menentukan pilihan, model diberi informasi apakah kandidat tersebut berhasil dalam pekerjaannya. Padahal, seluruh kandidat memiliki peluang keberhasilan yang sama untuk setiap jenis pekerjaan, tetapi kondisi itu tidak disampaikan kepada model.
Hasil awal kemudian menjadi dasar generalisasi yang jauh lebih luas. Jika seorang kandidat Aima gagal sebagai dokter, misalnya, model cenderung menghindari kandidat Aima lain untuk posisi dokter dan lebih sering mengarahkannya ke pekerjaan petugas kebersihan.
Skor segregasi mendekati batas maksimum
Penelitian memakai skala segregasi yang menempatkan angka 2 sebagai kondisi ketika setiap kelompok sepenuhnya terpisah ke bidang pekerjaan masing-masing. Dalam studi manusia sebelumnya, skor rata-rata yang tercatat adalah 0,84.
| Peserta atau model | Hasil pada skala segregasi | Keterangan |
|---|---|---|
| Peserta manusia | 0,84 | Hasil studi sebelumnya |
| Model AI | Sekitar 65% lebih tinggi | Dibandingkan skor peserta manusia |
| OpenAI o3 | 1,83 | Mendekati nilai maksimum 2 |
Model penalaran OpenAI o3 mencatat skor 1,83, mendekati nilai maksimum pada skala tersebut. Model dengan kemampuan penalaran lebih tinggi, termasuk o3 dan DeepSeek R1, justru memperlihatkan kecenderungan bias yang lebih kuat dalam eksperimen.
Ryan Liu, mahasiswa doktoral Princeton University dan salah satu penulis riset, menduga LLM sangat cepat membuat generalisasi dari data terbatas. Menurutnya, kecenderungan itu berkaitan dengan cara model dioptimalkan untuk menyelesaikan persoalan matematika, pemrograman, dan sains.
“Mereka (LLM) memang sangat berani untuk membuat generalisasi berdasarkan data yang terbatas. Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan untuk mereka,” kata Liu kepada MIT Technology Review, seperti dikutip CNN Indonesia.
Instruksi adil belum tentu cukup
Peneliti menemukan bahwa instruksi sederhana agar model bersikap adil tidak banyak mengubah hasil simulasi. Model menjadi lebih tidak bias ketika memperoleh insentif tambahan untuk melakukan perekrutan yang beragam.
Informasi pribadi yang relevan, seperti usia dan pendidikan kandidat, juga membuat model lebih jarang melakukan segregasi berdasarkan etnis. Sebaliknya, detail yang tidak berkaitan dengan kemampuan kerja, seperti warna rambut atau bentuk tato, tidak banyak mengurangi kecenderungan tersebut.
Temuan ini tidak berarti seluruh sistem Rekrutmen AI di dunia nyata pasti menghasilkan diskriminasi serupa. Penelitian dilakukan dalam simulasi, sedangkan sistem penyaring CV di praktiknya tidak langsung mengetahui apakah pekerja yang direkrut akan berhasil atau tidak.
Namun, peneliti mengingatkan bahwa umpan balik kinerja yang diterima setelah proses perekrutan tetap dapat memengaruhi keputusan model pada kandidat selanjutnya. Karena itu, penggunaan Bias AI dalam seleksi tenaga kerja perlu dipahami sebagai risiko yang dapat muncul dari pola data dan mekanisme pembelajaran sistem.
