Riset Princeton dan Chicago Ungkap Risiko Diskriminasi Algoritma dalam Rekrutmen Pekerjaan Berbasis Kecerdasan Buatan

Pemanfaatan model kecerdasan buatan berbasis bahasa besar atau Large Language Model (LLM) dalam proses rekrutmen tenaga kerja kini tengah menjadi sorotan tajam di dunia teknologi dan sumber daya manusia. Sebuah penelitian kolaboratif terbaru yang dilakukan oleh para ilmuwan dari Princeton University dan University of Chicago mengungkapkan temuan yang mengkhawatirkan: model AI cenderung membentuk dan memperkuat stereotip terhadap pelamar kerja dalam simulasi rekrutmen, bahkan dengan intensitas yang jauh lebih kuat dibandingkan prasangka yang dimiliki manusia.

Penelitian ini menguji berbagai model LLM terkemuka yang saat ini mendominasi pasar, termasuk ChatGPT dari OpenAI, Claude dari Anthropic, dan Gemini dari Google. Hasilnya menunjukkan bahwa teknologi yang diharapkan dapat mengurangi bias manusia dalam pengambilan keputusan justru berisiko melakukan segregasi pekerjaan berdasarkan etnis secara lebih agresif. Temuan ini menjadi peringatan keras bagi perusahaan-perusahaan global yang semakin mengandalkan AI untuk menyaring ribuan kurikulum vitae (CV) dan melakukan penilaian awal terhadap calon karyawan.

Metodologi Penelitian dan Simulasi Psikologi

Eksperimen yang dirilis pada tahun 2024 ini menggunakan metodologi yang diadaptasi dari studi psikologi klasik mengenai pembentukan stereotip. Dalam simulasi ini, model AI diminta untuk berperan sebagai konsultan bagi wali kota di sebuah kota fiktif. Tugas utamanya adalah memilih kandidat terbaik untuk 20 jenis pekerjaan yang berbeda, yang mencakup spektrum luas mulai dari profesi berstatus tinggi seperti dokter dan pengacara, hingga pekerjaan layanan seperti pengasuh anak dan petugas kebersihan.

Untuk menghindari bias dunia nyata yang sudah ada dalam data pelatihan, para peneliti menciptakan empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki. Penggunaan nama kelompok fiktif ini bertujuan untuk melihat bagaimana AI membangun prasangka baru dari nol berdasarkan informasi terbatas yang mereka terima selama proses simulasi.

Dalam setiap putaran eksperimen, model AI menerima profil dari empat kandidat yang masing-masing mewakili satu kelompok etnis. Setelah AI memilih satu kandidat untuk posisi tertentu, sistem memberikan umpan balik (feedback) apakah kandidat tersebut berhasil atau gagal dalam pekerjaannya. Tanpa sepengetahuan model AI, para peneliti telah mengatur agar semua kandidat dari semua kelompok memiliki peluang keberhasilan yang sama persis (50/50). Namun, AI tidak diberitahu mengenai kesetaraan probabilitas ini.

Temuan Utama: Bias Algoritma Melampaui Prasangka Manusia

Hasil penelitian menunjukkan pola perilaku yang konsisten di hampir semua model yang diuji. Setelah menerima hasil awal, model AI mulai melakukan generalisasi yang cepat dan ekstrem. Sebagai contoh, jika seorang kandidat dari kelompok Aima digambarkan gagal saat bekerja sebagai dokter, model AI pada putaran berikutnya cenderung menghindari pemilihan kandidat Aima lainnya untuk posisi medis. Alih-alih memberikan kesempatan yang sama, AI justru mulai mengarahkan kelompok Aima ke pekerjaan yang dianggap "lebih rendah," seperti petugas kebersihan.

Para peneliti menggunakan skala segregasi untuk mengukur sejauh mana kelompok etnis dipisahkan ke dalam jenis pekerjaan tertentu. Dalam skala ini, angka 2 melambangkan segregasi total, di mana setiap kelompok etnis dikunci sepenuhnya ke dalam bidang pekerjaan tertentu tanpa adanya tumpang tindih. Sebagai perbandingan, partisipan manusia dalam studi psikologi sebelumnya mencatatkan skor bias sebesar 0,84.

Namun, skor yang dihasilkan oleh model AI sangat mengejutkan karena jauh melampaui angka manusia. Rata-rata model AI mencatatkan skor sekitar 65 persen lebih tinggi dibandingkan manusia. Yang lebih mengkhawatirkan, model penalaran terbaru dari OpenAI, yaitu o3, mencatat skor sebesar 1,83—sebuah angka yang hampir mendekati nilai maksimum segregasi sempurna. Model-model yang memiliki kemampuan penalaran (reasoning) lebih tinggi, seperti o3 dan DeepSeek R1, justru menunjukkan kecenderungan bias yang paling kuat dalam eksperimen ini.

Mengapa AI Cenderung Melakukan Generalisasi Ekstrem?

Ryan Liu, mahasiswa program doktoral di Universitas Princeton sekaligus salah satu penulis utama penelitian ini, memberikan penjelasan teknis di balik fenomena ini. Menurutnya, kecenderungan LLM untuk membangun generalisasi dari data yang sangat terbatas merupakan konsekuensi dari cara model-model tersebut dilatih. AI dioptimalkan untuk menemukan pola dan menyelesaikan persoalan matematika, pemrograman, serta sains yang membutuhkan penarikan kesimpulan logis dari premis yang ada.

"Model-model ini memang dirancang untuk sangat berani dalam membuat generalisasi berdasarkan data yang terbatas. Itu merupakan bagian besar dari tujuan optimalisasi yang dilakukan oleh para pengembangnya," ujar Liu. Dalam konteks matematika, kemampuan generalisasi ini sangat berguna. Namun, ketika diterapkan pada interaksi sosial dan penilaian manusia, kemampuan tersebut berubah menjadi mesin pembuat stereotip yang efisien.

Selain itu, fitur memori dan personalisasi yang kini banyak disematkan pada chatbot AI juga dinilai memperburuk keadaan. Dengan adanya memori, model cenderung terlalu mengandalkan pengalaman atau pola data sebelumnya (meskipun data tersebut sangat sedikit) untuk mengambil keputusan di masa depan. Hal ini menciptakan lingkaran setan di mana satu kegagalan individu dari kelompok tertentu dapat "menutup pintu" bagi seluruh anggota kelompok tersebut dalam pandangan algoritma.

Upaya Mitigasi dan Efektivitas Instruksi

Penelitian ini juga mengeksplorasi apakah instruksi eksplisit mengenai keadilan (fairness) dapat meredam bias tersebut. Para peneliti mencoba memberikan perintah agar model bersikap adil dan tidak diskriminatif. Namun, hasilnya menunjukkan bahwa instruksi verbal semacam itu tidak banyak mengubah hasil akhir; AI tetap melakukan segregasi secara signifikan.

Perubahan perilaku yang lebih positif baru terlihat ketika model diberi insentif tambahan untuk melakukan perekrutan yang beragam (diversity incentives). Selain itu, tingkat bias berkurang secara drastis ketika model memperoleh informasi pribadi yang relevan mengenai kandidat, seperti riwayat pendidikan yang detail dan usia. Sebaliknya, informasi yang tidak relevan seperti warna rambut atau bentuk tato tidak memberikan dampak pada pengurangan kecenderungan segregasi.

Hal ini menunjukkan bahwa kunci untuk mengurangi bias AI bukan sekadar memberikan "nasihat etika" kepada model, melainkan dengan menyediakan data yang lebih komprehensif dan relevan yang memaksa model untuk melihat individu sebagai entitas unik, bukan sekadar representasi dari suatu kelompok.

Konteks Latar Belakang: Sejarah Bias dalam AI Rekrutmen

Isu mengenai bias dalam sistem rekrutmen berbasis AI sebenarnya bukan hal baru. Pada tahun 2018, perusahaan raksasa teknologi Amazon terpaksa menghentikan penggunaan alat penyaring CV berbasis AI karena ditemukan mendiskriminasi pelamar perempuan. Alat tersebut dilatih menggunakan data resume yang masuk ke perusahaan selama periode 10 tahun, yang sebagian besar berasal dari laki-laki, mencerminkan dominasi pria di industri teknologi saat itu. Akibatnya, sistem AI Amazon belajar bahwa kandidat laki-laki lebih disukai dan secara otomatis menurunkan peringkat resume yang mengandung kata "perempuan" (seperti "ketua klub catur perempuan").

Kasus Amazon tersebut menjadi tonggak sejarah yang menyadarkan dunia bahwa AI tidaklah netral. AI mencerminkan bias yang ada dalam data pelatihannya. Namun, riset terbaru dari Princeton dan Chicago ini membawa kekhawatiran ke level yang lebih tinggi: AI tidak hanya mewarisi bias manusia dari data masa lalu, tetapi juga mampu menciptakan bias baru secara mandiri melalui proses penalaran yang terlalu agresif terhadap data baru yang mereka temui.

Dampak dan Implikasi bagi Dunia Industri

Temuan ini memiliki implikasi yang sangat luas mengingat penetrasi AI dalam industri SDM (Sumber Daya Manusia) terus meningkat. Berdasarkan laporan dari berbagai firma riset pasar, lebih dari 60 persen perusahaan besar kini menggunakan beberapa bentuk AI atau alat otomatisasi dalam proses perekrutan mereka. Penggunaan AI diklaim dapat menghemat waktu dan biaya, namun riset ini membuktikan adanya risiko "biaya sosial" yang besar berupa diskriminasi yang tidak terlihat.

Jika sistem AI penyaring CV terus beroperasi sebagai "kotak hitam" (black box) tanpa pengawasan yang ketat, perusahaan berisiko kehilangan talenta-talenta terbaik hanya karena algoritma melakukan generalisasi yang salah. Lebih jauh lagi, hal ini dapat menimbulkan konsekuensi hukum bagi perusahaan di negara-negara yang memiliki undang-undang anti-diskriminasi yang ketat.

Di Uni Eropa, melalui EU AI Act, sistem AI yang digunakan dalam bidang ketenagakerjaan diklasifikasikan sebagai sistem "berisiko tinggi". Hal ini mewajibkan pengembang dan pengguna sistem tersebut untuk menerapkan manajemen risiko yang ketat, transparansi, serta pengawasan manusia (human-in-the-loop). Riset Princeton ini memperkuat argumen bahwa regulasi semacam itu sangat diperlukan untuk mencegah teknologi memperlebar kesenjangan sosial.

Analisis Berbasis Fakta dan Pandangan ke Depan

Meskipun penelitian ini dilakukan dalam lingkungan simulasi dan belum tentu mencerminkan setiap sistem AI rekrutmen yang ada di dunia nyata, hasilnya memberikan peringatan dini yang valid. Dalam praktik dunia nyata, sistem penyaring CV mungkin tidak langsung mendapatkan umpan balik keberhasilan kerja secara instan seperti dalam simulasi. Namun, umpan balik kinerja jangka panjang yang dimasukkan kembali ke dalam sistem (feedback loop) tetap berpotensi memengaruhi keputusan model terhadap kandidat-kandidat berikutnya di masa depan.

Keberadaan model penalaran tinggi seperti o3 dan DeepSeek R1 yang menunjukkan bias lebih kuat menandakan bahwa semakin "cerdas" sebuah model dalam logika, semakin rentan pula ia terhadap kesalahan sistemik dalam menilai manusia jika tidak dibekali dengan batasan etika yang kuat.

Langkah ke depan bagi industri teknologi bukan hanya meningkatkan akurasi algoritma, tetapi juga memastikan adanya transparansi dalam proses pengambilan keputusan oleh AI. Perusahaan perlu melakukan audit berkala terhadap alat rekrutmen mereka untuk mendeteksi adanya pola diskriminasi. Selain itu, peran manusia sebagai pengambil keputusan akhir tetap tidak tergantikan. AI seharusnya berfungsi sebagai alat bantu (augmentasi), bukan penentu tunggal nasib karier seseorang.

Secara keseluruhan, riset ini menegaskan bahwa tanpa intervensi yang disengaja dalam desain algoritma dan penyediaan data yang relevan, kecerdasan buatan berisiko menjadi cermin dari prasangka terburuk manusia—atau bahkan lebih buruk lagi—dengan kecepatan dan skala yang melampaui kemampuan manusia untuk mengoreksinya. Kesetaraan dalam dunia kerja di masa depan akan sangat bergantung pada bagaimana manusia melatih "akal budi" digital ini untuk tidak hanya menjadi cerdas secara logika, tetapi juga adil secara sosial.