Novi rad u Quarterli Journal of Economics otkriva da bi zamena određenih funkcija sudskog odlučivanja algoritmima mogla poboljšati ishode za optužene eliminisanjem nekih sistemskih predrasuda sudija.
Donosioci odluka donose konsekventne izbore na osnovu predviđanja nepoznatih ishoda. Sudije, posebno, odlučuju o tome da li da daju jemstvo optuženima ili kako da osude osuđene. Kompanije sada sve više koriste modele zasnovane na mašinskom učenju u odlukama sa visokim ulozima.
Postoje različite pretpostavke o ljudskom ponašanju koje su u osnovi primene ovakvih modela učenja koji se pojavljuju u preporukama proizvoda na Amazonu, filtriranju neželjene e-pošte i prediktivnim tekstovima na nečijem telefonu.
Istraživači su ovde razvili statistički test jedne takve pretpostavke ponašanja, da li donosioci odluka prave sistematske greške u predviđanju, i dalje razvili metode za procenu načina na koje su njihova predviđanja sistematski pristrasna.
Analizirajući pretpretresni sistem u Njujorku, istraživanje otkriva da značajan deo sudija pravi sistematske greške u predviđanju rizika od nedoličnog ponašanja pre suđenja s obzirom na karakteristike optuženog, uključujući rasu, godine i prethodno ponašanje.
Istraživanje je koristilo informacije od sudija u Njujorku, koji su kvazi-slučajno raspoređeni na predmete definisane u dodeljenoj sudnici po smenama. Studija je testirala da li odluke sudija o puštanju na slobodu odražavaju tačna uverenja o riziku da se optuženi ne pojavi na suđenju (između ostalog). Studija je zasnovana na informacijama o 1.460.462 slučaja u Njujorku, od kojih je 758.027 slučajeva bilo predmet odluke o oslobađanju pre suđenja.
U ovom radu je izveden statistički test za utvrđivanje da li donosilac odluke pravi sistematske greške u predviđanju i dao metode za procenu načina na koje su predviđanja donosioca odluka sistematski pristrasna. Analizom odluka sudija u Njujorku o puštanju na slobodu pre suđenja, list procenjuje da najmanje 20% sudija pravi sistematske greške u predviđanju rizika od nedoličnog ponašanja optuženih s obzirom na karakteristike optuženog. Motivisan ovom analizom, istraživač je ovde procenio efekte zamene sudija sa algoritamskim pravilima odlučivanja.
List je otkrio da odluke najmanje 32% sudija u Njujorku nisu u skladu sa stvarnom sposobnošću optuženih da polože određeni iznos kaucije i stvarnim rizikom da se oni ne pojave na suđenju.
Istraživanje ovde pokazuje da kada se uzmu u obzir i rasa i godine optuženog, sudija medijana pravi sistematske greške u predviđanju na približno 30% optuženih koji su im dodeljeni. Kada se oba okrivljena nadmeću i da li je optuženi optužen za krivično delo, srednji sudija pravi sistematske greške u predviđanju oko 24% optuženih koji su im dodeljeni.
Dok se u radu primećuje da zamena sudija pravilom algoritamskog odlučivanja ima dvosmislene efekte koji zavise od cilja kreatora politike (da li je željeni ishod onaj u kojem se više okrivljenih pojavi na suđenju ili u kojem manje optuženih sedi u zatvoru čekajući suđenje?), ipak izgleda da bi zamena sudija sa pravilom algoritamskog odlučivanja dovela do poboljšanja ishoda suđenja do 20%, mereno na osnovu stope nepojavljivanja među puštenim optuženima i stope pritvora.
„Efekti zamene ljudi koji donose odluke algoritmima zavise od kompromisa između toga da li čovek pravi sistematske greške u predviđanju na osnovu vidljivih informacija dostupnih algoritmu u odnosu na to da li čovek primećuje bilo koju korisnu privatnu informaciju“, rekao je glavni autor rada, Ašeš Rambachan.
„Ekonometrijski okvir u ovom radu omogućava empirijskim istraživačima da pruže direktne dokaze o ovim konkurentskim silama.“
