Malezijski advokati kažu da je upotreba AI sistema u pravosudnom sistemu zemlje „neustavna“ i tvrde da niko zaista ne razume kako on funkcioniše. To je nakon što su sudovi u dve malezijske države pokrenuli program testiranja za korišćenje veštačke inteligencije za pomoć sudijama u izricanju kazni osuđenim dilerima droge i silovateljima.
Softver za veštačku inteligenciju, koji je razvila državna vladina firma Saravak Information Sistems, prvi put je uveden 2020. na dva suda u Sabahu i Saravaku na ostrvu Borneo kao deo pilot šeme za ispitivanje efikasnosti veštačke inteligencije u preporukama za odmeravanje kazni. Test je trebalo da se završi u aprilu 2022.
Sud u Sabahu je bio prvi u zemlji koji je koristio veštačku inteligenciju da pomogne u izricanju sudske presude kada je osudio dvojicu muškaraca za posedovanje droge 2020. Međutim, Hadid Ismail – advokat sa 20 godina iskustva koji je zastupao optužene – osporio je rečenicu, tvrdeći da se sistem koristio pre nego što su sudije, advokati i javnost uopšte dobili priliku da ga u potpunosti razumeju i način na koji funkcioniše.
„Naš Zakonik o krivičnom postupku ne predviđa upotrebu veštačke inteligencije na sudovima… Mislim da je to neustavno“, rekao je Ismail za Rojters. „Prilikom izricanja kazne, sudije ne gledaju samo na činjenice slučaja – one takođe uzimaju u obzir olakšavajuće faktore i koriste svoje diskreciono pravo. Ali AI ne može da koristi diskreciju“, rekao je on, dodajući da je kazna koju je AI izrekao jednom od njegovih klijenata za posedovanje manje količine droge prestroga – 12 meseci zatvora zbog posedovanja 0,01 grama metamfetamina.
Advokatski savet Malezije, koji zastupa advokate, takođe je izrazio svoju frustraciju pilot programom veštačke inteligencije. Nakon što su sudovi u Kuala Lumpuru, glavnom gradu Malezije, počeli da testiraju sistem sredinom 2021. kako bi predložili kazne za 20 vrsta krivičnih dela, savet je rekao da mu „uopšte nisu date smernice i da nismo imali priliku da dobijemo povratne informacije od praktičara krivičnog prava .”
Malezijski trust mozgova, Khazanah Research Institute, takođe je podneo izveštaj o sistemu 2020. godine, tvrdeći da mere ublažavanja koje su instalirane u softveru veštačke inteligencije, poput uklanjanja rase kao varijable, nisu uspele da učine sistem savršenim. Takođe su primetili da je sistem „donekle ograničen u poređenju sa obimnim bazama podataka koji se koriste u globalnim naporima“ jer je algoritam veštačke inteligencije obučen samo koristeći skup podataka od pet godina od 2014. do 2019.
Portparol predsednika Saveznog suda izjavio je da je upotreba veštačke inteligencije u sudovima „još uvek u eksperimentalnoj fazi“, ali je odbio da dalje komentariše rad sistema.
U međuvremenu, upotreba veštačke inteligencije u sistemu krivičnog pravosuđa ubrzano raste širom sveta, od popularne DoNotPai – mobilne aplikacije za čet-bot advokata – do AI sudija koji odlučuju o sporovima male vrednosti u Estoniji, posrednika robota u Kanadi, pa čak i sudija AI u kineski sudovi.
Zagovornici ovih sistema veštačke inteligencije insistiraju na tome da čine izricanje kazni doslednijim i mogu brzo i jeftino da reše zaostale slučajeve, istovremeno štedeći vreme i novac za strane uključene u pravni postupak.
Sajmon Česterman, profesor prava na Nacionalnom univerzitetu u Singapuru i viši direktor u AI Singapuru – vladinom programu – insistira na tome da tehnologija ima potencijal da poboljša efikasnost u sistemu krivičnog pravosuđa, ali je priznao da je legitimnost takvih sistema zavisi ne samo od tačnosti donetih odluka, već i od načina na koji su donete.
„Mnoge odluke bi se mogle pravilno predati mašinama. [Ali] sudija ne bi trebalo da prepusti diskreciju nekom neprozirnom algoritmu“, rekao je Česterman.
Nazad u Sabahu, Ismail se žalio na oštru kaznu svog klijenta koju je preporučila AI, a sudija koji je predsedavao slučaj mu je na kraju odobrio žalbu.
Međutim, Ismail je upozorio da bi mnogi drugi advokati, posebno mladi, mogli odlučiti da ne izazovu sistem veštačke inteligencije – potencijalno osuđujući svoje klijente na neopravdano oštre kazne.
„AI se ponaša kao viši sudija, mladi sudije mogu da misle da je to najbolja odluka i prihvataju je bez pitanja“, rekao je Ismail.
