Budućnost zapošljavanja je, čini se, automatizovana. Kandidati sada mogu da koriste botove sa veštačkom inteligencijom da bi se prijavili na hiljade radnih mesta. Kompanije—koje već dugo automatizuju delove procesa—sada primenjuju najnovije AI velike jezičke modele za pisanje opisa poslova, pregledavanje životopisa i proveru kandidata. Procenjuje se da 99% kompanija sa liste Fortune 500 sada koristi neki oblik automatizacije u procesu zapošljavanja.
Ova automatizacija može povećati efikasnost, a neki tvrde da može učiniti proces zapošljavanja manje diskriminatornim. Ali novo istraživanje Univerziteta u Vašingtonu otkrilo je značajnu rasnu, rodnu i intersekcionalnu pristrasnost u tome kako tri najsavremenija modela velikih jezika, ili LLM, rangiraju biografije. Istraživači su menjali imena povezana sa belim i crnim muškarcima i ženama u preko 550 životopisa iz stvarnog sveta i otkrili da su LLM favorizovali imena koja su povezana sa belom u 85% vremena, imena povezana sa ženama samo u 11% vremena, i nikada nisu favorizovali crnačke muškarce. -pridružena imena nad belim muškim imenima.
„Upotreba AI alata za procedure zapošljavanja je već široko rasprostranjena i širi se brže nego što možemo da je regulišemo“, rekla je glavni autor Kira Vilson, student doktorskih studija u Informacionoj školi. „Trenutno, van zakona grada Njujorka, ne postoji regulatorna, nezavisna revizija ovih sistema, tako da ne znamo da li su pristrasni i diskriminišući na osnovu zaštićenih karakteristika kao što su rasa i pol. I zato što mnogi od njih sistemi su vlasnički, mi smo ograničeni na analizu kako oni funkcionišu približavanjem sistema u stvarnom svetu.“
Prethodne studije su otkrile da ChatGPT pokazuje rasnu pristrasnost i pristrasnost u pogledu invaliditeta prilikom sortiranja životopisa. Ali te studije su bile relativno male — koristeći samo jedan životopis ili četiri lista poslova — a ChatGPT-ov AI model je takozvana „crna kutija“, koja ograničava mogućnosti analize.
Tim je želeo da prouči LLM otvorenog koda i to u velikom obimu. Takođe su želeli da istraže veze između rase i pola.
Istraživači su varirali 120 imena povezanih sa belim i crnim muškarcima i ženama u životopisima. Zatim su koristili tri najsavremenija LLM-a iz tri različite kompanije — Mistral AI, Salesforce i Contektual AI — da bi rangirali biografije kao kandidate za 500 spiskova poslova u stvarnom svetu. Oni su bili raspoređeni u devet zanimanja, uključujući radnika u ljudskim resursima, inženjera i nastavnika. Ovo je iznosilo više od tri miliona poređenja između životopisa i opisa poslova.
Posmatrali su intersekcionalne identitete i otkrli da obrasci pristrasnosti nisu samo zbir rasnog i rodnog identiteta. Na primer, studija je pokazala najmanji disparitet između tipično belih ženskih i tipično belih muških imena. A sistemi nikada nisu preferirali ono što se percipira kao crna muška imena u odnosu na imena belaca. Ipak, oni su takođe preferirali tipično crna ženska imena 67% vremena u odnosu na 15% vremena za tipično crna muška imena.
„Pronašli smo ovu zaista jedinstvenu štetu protiv crnaca koja nije nužno bila vidljiva samo posmatranjem rase ili pola u izolaciji“, rekao je Vilson. „Intersekcionalnost je trenutno zaštićen atribut samo u Kaliforniji, ali posmatranje multidimenzionalnih kombinacija identiteta je neverovatno važno da bi se osigurala pravičnost sistema veštačke inteligencije. Ako nije fer, moramo to da dokumentujemo kako bismo mogli da ga poboljšamo.“
Tim napominje da bi buduća istraživanja trebalo da istraže pristupe pristrasnosti i smanjenja štete koji mogu uskladiti sisteme veštačke inteligencije sa politikama. Takođe bi trebalo da istražuje i druge zaštićene atribute, kao što su invaliditet i starost, kao i da sagleda više rasnih i rodnih identiteta – sa naglaskom na intersekcionalnim identitetima.
„Sada kada su generativni sistemi veštačke inteligencije široko dostupni, skoro svako može da koristi ove modele za kritične zadatke koji utiču na njihove i tuđe živote, kao što je zapošljavanje“, rekla je viši autor Ailin Caliskan.
„Male kompanije bi mogle pokušati da iskoriste ove sisteme kako bi svoje procese zapošljavanja učinili efikasnijim, na primjer, ali to dolazi sa velikim rizicima. Javnost treba da shvati da su ovi sistemi pristrasni. I pored šteta od alokacije, kao što su diskriminacija i dispariteti pri zapošljavanju, ova pristrasnost značajno oblikuje naše percepcije rase i pola i društva.“
