Istraživači ispituju široko verovanje da je pristrasnost izazvana AI tehnička mana, koja se umesto toga raspravlja da je AI duboko pod uticajem društvene dinamike snage. Saznaje od istorijskih podataka oblikovanih ljudskim pristrasnostima, upijajući i produžavajući diskriminaciju u procesu. To znači da, a ne da stvara nejednakost, AI reprodukuje i ojačava ga.
Istraživanje se objavljuje u časopisu Tehnološke prognoze i društvene promene.
„Naša studija istakne primere u stvarnom svetu gde je AI ojačala postojeće pristrasnost“, kaže prof. Bircan kaže. „Jedan upečatljiv slučaj je Amazonov alat za zapošljavanje AI-a, za koje je utvrđeno da favorizuje muške kandidate, na kraju ojačavaju rodne razlike na tržištu rada.
„Slično tome, vladini sistemi za otkrivanje prevara je pogrešno optuživalo porodice, posebno migrantima, što je dovelo do teških posledica za one pogođene. Ovi slučajevi pokazuju kako AI, umesto da eliminišu pristrasnost, može da pojačaju diskriminaciju.
„Bez transparentnosti i odgovornosti, AI Rizici postaju alat koji ulaze u postojeće socijalne hijerarhije, a ne da ih izazove.“
AI je razvijena u širem ekosistemu u kojem kompanije, programeri i kreatori politika donose kritičke odluke o njegovom dizajnu i upotrebi. Ovi izbori određuju da li AI smanjuje ili pogoršava nejednakost. Kada se obučava na podacima koji odražavaju društvene pristrasnost, aI sistemi repliciraju diskriminaciju na područjima sa visokim ulozima poput zapošljavanja, policije i distribucije blagostanja i blagostanja.
Istraživanje profesora Bircana naglašava da AI upravljanje mora proširiti van tehničke kompanije i programera. S obzirom da se AI oslanja na podatke koji su stvorili korisnika, mora postojati veća transparentnost i inkluzivnost u načinu na koji je dizajniran, raspoređen i regulisan. U suprotnom, AI će i dalje produbiti digitalnu podelu i širi socio-ekonomske razlike.
Uprkos izazovima, studija takođe nudi nadu. „Umesto da prihvatite AI-ove mane kao neizbežne, naš rad se zalaže za proaktivne politike i okvire koji osiguravaju da AI služi socijalnu pravdu, a ne da ga ugradi. Ugrađivanjem pravičnosti i odgovornosti u AI, možemo da iskoristimo njegov potencijal, možemo da iskoristimo njegov potencijal, možemo da iskoristimo njegov potencijal, možemo da iskoristimo njegov potencijal za pozitivne promene, a mi možemo da iskoristimo njegov potencijal.
