Riset Ungkap AI Lebih Bias Dibanding Manusia Saat Jadi HRD
Kabarberita911.com – Sebuah studi terbaru mengungkapkan bahwa kecerdasan buatan (AI) dalam peran perekrut (HRD) cenderung lebih terpengaruh oleh bias dibandingkan keputusan manusia. Penelitian ini dilakukan oleh para ilmuwan dari Princeton University dan University of Chicago, yang menguji kemampuan beberapa model Large Language Model (LLM), termasuk ChatGPT, Claude, dan Gemini, dalam menilai kandidat. Hasilnya menunjukkan bahwa AI mengandalkan prasangka yang lebih kuat, terutama saat memilih kandidat untuk berbagai posisi kerja. Faktor ini memicu pertanyaan mengenai efektivitas sistem AI dalam meminimalkan diskriminasi dalam proses rekrutmen.
Metode dan Pengujian
Penelitian menggunakan simulasi rekrutmen yang diadaptasi dari eksperimen psikologi tahun 2024. Dalam simulasi ini, setiap model AI ditugaskan memilih kandidat untuk 20 jenis pekerjaan, mulai dari bidang medis hingga pekerjaan umum. Kandidat diberi latar belakang etnis fiktif: Tufa, Aima, Reku, dan Weki. Setiap putaran, model menerima empat kandidat dari kelompok etnis yang berbeda, lalu memilih satu berdasarkan kriteria yang diberikan. Proses ini bertujuan mengukur sejauh mana AI mengembangkan stereotip dan bias berdasarkan informasi yang diberikan.
Untuk menguji bias, peneliti memanfaatkan data dari pengalaman pekerjaan kandidat. Model AI dengan cepat mulai mengasosiasikan kelompok etnis tertentu dengan bidang pekerjaan tertentu. Contohnya, kandidat dari kelompok Aima sering diarahkan ke posisi kebersihan, sementara kandidat dari Tufa lebih sering dipilih untuk peran administratif. Fenomena ini menunjukkan bahwa AI tidak hanya mengandalkan fakta, tetapi juga menyaring informasi berdasarkan pola yang terbentuk selama pelatihan.
Hasil dan Perbedaan
Skor segregasi dalam penelitian mencapai 2, yang artinya setiap kelompok etnis dipisahkan sepenuhnya ke bidang pekerjaan tertentu. Peserta manusia hanya mencapai skor 0,84, sedangkan model AI mencapai angka hingga 1,83—meningkat sekitar 65 persen. Hal ini menunjukkan bahwa keputusan AI lebih terpengaruh oleh prasangka, meskipun mereka diberi instruksi keadilan. Ryan Liu, mahasiswa doktoral di Princeton University, menjelaskan: “Mereka (LLM) sangat berani membuat generalisasi dari data terbatas. Itu merupakan bagian besar dari tujuan optimalisasi yang dilakukan selama pelatihan,” menurut laporan MIT Technology Review.
Adapun keputusan manusia, mereka lebih terbuka terhadap variasi. Namun, bias tetap terjadi, meski lebih ringan. Penelitian ini juga mengungkap bahwa model AI yang memiliki kemampuan penalaran tinggi, seperti OpenAI o3 dan DeepSeek R1, justru menunjukkan prasangka lebih kuat. Dalam pengujian, fitur seperti memori dan personalisasi chatbot berperan penting dalam memperkuat pola data sebelumnya. Hal ini memicu diskusi mengenai perlunya perbaikan algoritma untuk mengurangi risiko bias dalam sistem perekrutan.
Faktor Pemicu Bias
Beberapa faktor memicu bias AI dalam konteks HRD. Pertama, data pelatihan yang digunakan bisa memperkuat stereotip. Model LLM yang dilatih menggunakan data dari dunia nyata, termasuk informasi pekerjaan yang bersifat klasik, cenderung mengandalkan pola ini saat menilai kandidat. Kedua, fitur personalisasi seperti sistem rekomendasi atau pengalaman pengguna bisa mengarahkan model AI ke keputusan yang lebih terarah, tanpa menyadari bias yang terbentuk. Ketiga, instruksi keadilan tidak cukup mengubah hasil secara signifikan, sehingga perlu insentif tambahan untuk memaksimalkan keragaman.
Dalam percobaan tambahan, peneliti menemukan bahwa ketika model diberi data yang lebih relevan, seperti usia dan pendidikan, bias etnis berkurang. Namun, informasi tidak relevan seperti warna rambut atau tato masih memengaruhi keputusan, meski dalam skala yang lebih kecil. Hal ini menunjukkan bahwa AI bisa mengandalkan fitur tidak penting untuk menilai kandidat, tergantung pada bagaimana data disajikan. Faktor ini memperkuat argumen bahwa AI perlu diperiksa secara berkala untuk memastikan keadilan dalam perekrutan.
Keterbatasan Simulasi
Penelitian ini dilakukan dalam lingkungan simulasi, sehingga hasilnya tidak sepenuhnya mencerminkan realitas dunia nyata. Meski begitu, data dari simulasi bisa menjadi indikator awal tentang potensi bias dalam sistem AI perekrutan. Dalam praktik, banyak perusahaan menggunakan alat AI untuk menyaring lamaran kerja, tetapi model seperti ini masih tergantung pada data yang mereka terima. Umpan balik kinerja kandidat juga bisa memengaruhi keputusan model untuk kelompok berikutnya, meskipun dalam skala yang lebih terbatas.
Keterbatasan lainnya adalah penggunaan kelompok etnis fiktif. Meski dipilih untuk mempermudah analisis, ini mungkin tidak sepenuhnya mewakili situasi nyata. Namun, penelitian ini tetap memberikan gambaran bahwa AI memiliki kecenderungan untuk mengandalkan stereotip, terutama ketika data tidak cukup lengkap. Peneliti menyarankan bahwa untuk meminimalkan bias, sistem AI perlu didukung oleh data yang lebih diversifikasi, serta pemantauan berkala oleh manusia dalam proses perekrutan.
Implikasi dan Solusi
Topics Covered – Hasil penelitian ini menimbulkan pertanyaan besar mengenai keandalan AI dalam proses rekrutmen. Meski teknologi ini dapat meningkatkan efisiensi, bias yang terbentuk bisa mengurangi kesetaraan peluang kerja. Dalam konteks Topics Covered, penelitian ini menegaskan bahwa algoritma harus dirancang dengan pertimbangan adil, terutama ketika mereka diharapkan menggantikan peran manusia dalam pengambilan keputusan.
Untuk mengatasi masalah ini, beberapa solusi diusulkan. Pertama, model AI perlu diberi data yang lebih inklusif, termasuk berbagai latar belakang etnis, gender, dan budaya. Kedua, algoritma bisa diperbaiki dengan menambahkan mekanisme pengecekan bias secara otomatis. Ketiga, manusia tetap diperlukan dalam pengambilan keputusan akhir untuk memastikan adilnya proses. Dengan demikian, AI tidak sepenuhnya menggantikan peran HRD, tetapi bisa menjadi alat pendukung yang perlu diawasi secara ketat.
