Sebuah kajian baru-baru ini menunjukkan bahwa model kecerdasan buatan (AI) berbasis bahasa besar, yang dikenal sebagai large language model (LLM), dapat menghasilkan stereotip terhadap pelamar kerja dalam simulasi perekrutan. Hasil penelitian ini menunjukkan bahwa kecenderungan bias yang ditunjukkan oleh AI ternyata lebih kuat dibandingkan dengan manusia.
Penelitian yang dilakukan oleh tim ilmuwan dari dua universitas terkemuka, yaitu Princeton University dan University of Chicago, melibatkan pengujian sejumlah LLM, termasuk model-model terkenal yang saat ini banyak digunakan dalam industri. Penelitian ini menyelidiki bagaimana model-model ini melakukan seleksi dalam simulasi perekrutan yang teradaptasi dari studi psikologi mengenai pembentukan stereotip.
Pengujian Model AI dalam Situasi Rekrutmen
Dalam penyelidikan ini, setiap model AI diminta untuk berperan sebagai konsultan wali kota di kota fiktif. Tugas mereka adalah memilih kandidat untuk 20 jenis pekerjaan yang berbeda, mulai dari dokter hingga petugas kebersihan. Ini memungkinkan peneliti untuk menguji bagaimana AI mengambil keputusan berdasarkan informasi yang diberikan kepada mereka.
Kandidat yang digunakan dalam simulasi tersebut terdiri dari empat kelompok etnis yang fiktif, yaitu Tufa, Aima, Reku, dan Weki. Dengan cara ini, peneliti berusaha mengeksplorasi bias yang mungkin timbul dalam proses pemilihan kandidat yang dilakukan oleh model-model AI.
Dalam setiap putaran, model AI menerima empat kandidat dari masing-masing kelompok dan setelah memilih satu, mereka diberi tahu apakah kandidat tersebut berhasil dalam pekerjaannya. Peneliti memastikan bahwa semua kandidat memiliki peluang keberhasilan yang sama untuk setiap jenis pekerjaan yang ada.
Proses Pengambilan Keputusan oleh Model AI
Salah satu temuan penting dari penelitian ini adalah model-model AI mulai berlaku diskriminatif setelah mendapatkan umpan balik awal. Misalnya, jika seorang kandidat dari kelompok Aima digambarkan gagal sebagai dokter, model akan cenderung menghindari kandidat Aima lain untuk posisi tersebut dan lebih sering menempatkannya pada posisi sebagai petugas kebersihan.
Dalam analisis segregasi yang dilakukan selama penelitian, angka 2 menunjukkan bahwa setiap kelompok sepenuhnya dipisahkan untuk pekerjaan yang berbeda. Skor peserta manusia pada penelitian sebelumnya tercatat 0,84, sedangkan model AI menunjukkan skor yang lebih tinggi, hampir 1,83, mendekati nilai maksimum.
Ryan Liu, seorang mahasiswa doktoral di Princeton dan salah satu penulis penelitian, mengemukakan bahwa model AI sangat cepat dalam membuat generalisasi dari data yang terbatas. Hal ini mencerminkan bagaimana model dilatih untuk menyelesaikan berbagai persoalan yang kompleks, seperti matematika dan pemrograman.
Kecenderungan Bias dalam Penggunaan AI dalam Perekrutan
Model yang memiliki kapasitas penalaran lebih tinggi seperti o3 dan DeepSeek R1 menunjukkan bias yang lebih kuat dalam eksperimen ini. Temuan ini menjadi semakin relevan mengingat banyak perusahaan kini mulai mengadopsi AI dalam proses penyaringan CV dan wawancara kerja. Penggunaan teknologi ini mengharuskan semua pihak untuk menyadari potensi bias yang mungkin muncul.
Selain itu, langkah-langkah untuk meningkatkan keadilan dalam proses pemilihan kandidat—seperti menginstruksikan model untuk bersikap adil—ternyata tidak banyak mengubah hasil. Namun, model menjadi lebih tidak bias ketika diberikan insentif untuk melakukan perekrutan yang bervariasi.
Dalam eksperimen lainnya, model AI juga menunjukkan kecenderungan lebih rendah untuk melakukan segregasi berdasarkan etnis ketika diberikan informasi pribadi yang relevan, contohnya usia atau tingkat pendidikan kandidat. Menariknya, informasi yang dianggap tidak relevan, seperti warna rambut atau bentuk tato, tidak banyak memengaruhi keputusan AI.
Implikasi Penelitian Terhadap Sistem Perekrutan Nyata
Meskipun penelitian ini dilakukan dalam konteks simulasi, tetap ada peringatan dari para peneliti terkait dengan sistem perekrutan yang ada di dunia nyata. Dalam praktiknya, sistem penyaring CV tidak langsung mengetahui apakah para pekerja yang direkrut akan berhasil atau tidak, tetapi data umpan balik yang diterima akan tetap memberikan dampak bagi keputusan di masa mendatang.
Peneliti terus mengingatkan bahwa meskipun hasil ini menunjukkan potensi bias dalam AI, konteks penggunaan dan implementasi dari teknologi tersebut sangat penting untuk dipertimbangkan. Dimungkinkan bahwa sistem AI yang lebih baik dapat dibangun dengan mempertimbangkan berbagai faktor dan umpan balik yang adil.
Kegiatan penelitian seperti ini diharapkan dapat menjadi acuannya bagi perusahaan dalam mempertimbangkan implementasi sistem AI dalam proses rekrutmen. Dengan pengetahuan yang lebih baik tentang potensi bias, perusahaan dapat mengambil langkah yang lebih bijak dalam penerapan teknologi baru.
