Tim iz Minderoo centra za tehnologiju i demokratiju Univerziteta u Kembridžu kreirao je novi alat za reviziju za procenu „usaglašenosti sa zakonom i nacionalnim smernicama“ u vezi sa pitanjima kao što su privatnost, jednakost i sloboda izražavanja i okupljanja.
Na osnovu nalaza, objavljenih danas u novom izveštaju i pokrenutih na onlajn događaju, stručnjaci se pridružuju pozivima za zabranu policijske upotrebe prepoznavanja lica u javnim prostorima.
„Nedostaju čvrsti mehanizmi obeštećenja za pojedince i zajednice oštećene policijskom primenom tehnologije“, rekla je glavni autor izveštaja Evani Radija-Diksit, gostujući saradnik u Kembridžovom centru Minderoo.
„Da bismo zaštitili ljudska prava i poboljšali odgovornost u načinu na koji se tehnologija koristi, moramo se zapitati koje vrednosti želimo da ugradimo u tehnologiju.
Istraživači su konstruisali alat za reviziju na osnovu trenutnih pravnih smernica—uključujući britanske zakone o zaštiti podataka i jednakosti—kao i na rezultatima iz sudskih slučajeva u UK i povratnim informacijama od organizacija civilnog društva i Kancelarije poverenika za informacije.
Oni su svoje etičke i pravne standarde primenili na tri upotrebe tehnologije za prepoznavanje lica (FRT) od strane britanske policije. Jedan je bio sudski slučaj u Bridžisu, u kojem se aktivista za građanske slobode sa sedištem u Kardifu žalio na korišćenje automatizovanog FRT-a od strane policije Južnog Velsa za skeniranje ljudi uživo i upoređivanje lica sa onima na kriminalnoj „listi za posmatranje“.
Istraživači su takođe testirali suđenja Metropolitenske policije o sličnoj upotrebi FRT-a uživo i još jedan primer policije Južnog Velsa u kojem su policajci koristili FRT aplikacije na svojim pametnim telefonima da skeniraju gomilu kako bi identifikovali „tražene pojedince u realnom vremenu“.
U sva tri slučaja, otkrili su da su važne informacije o policijskoj upotrebi FRT-a „skrivene od pogleda“, uključujući oskudne demografske podatke objavljene o hapšenjima ili drugim ishodima, što otežava procenu da li alati „održavaju rasno profilisanje“, kažu istraživači.
Pored nedostatka transparentnosti, istraživači su otkrili malo toga u pogledu odgovornosti—bez jasnog pribegavanja ljudima ili zajednicama na koje negativno utiče policijska upotreba ili zloupotreba tehnologije. „Policije nisu nužno odgovorne niti se smatraju odgovornim za štete uzrokovane tehnologijom prepoznavanja lica“, rekla je Radija-Diksit.
Nekim od načina korišćenja FRT-a nedostajao je redovan nadzor od strane nezavisnog etičkog komiteta ili javnosti, kažu istraživači, i nisu učinili dovoljno da osiguraju da postoji pouzdan „čovek u petlji“ prilikom skeniranja neizrecivog broja lica među gomilama hiljada dok lov na zločince.
U suđenju za aplikaciju za pametne telefone policije Južnog Velsa, čak je i „lista za posmatranje“ uključivala slike ljudi koji su nevini prema zakonu Ujedinjenog Kraljevstva — onih koji su ranije uhapšeni, ali nisu osuđeni — uprkos činjenici da je zadržavanje takvih slika nezakonito.
„Tokom poslednjih nekoliko godina, policijske snage širom sveta, uključujući Englesku i Vels, primenile su tehnologije za prepoznavanje lica. Naš cilj je bio da procenimo da li su ove primene koristile poznate prakse za bezbednu i etičku upotrebu ovih tehnologija“, rekla je prof. Nef, izvršni direktor Minderoo centra za tehnologiju i demokratiju.
„Izgradnja jedinstvenog sistema revizije nam je omogućila da ispitamo pitanja privatnosti, jednakosti, odgovornosti i nadzora koja bi trebalo da prate svaku upotrebu takvih tehnologija od strane policije.“
Policajci su sve manje opremljeni i preopterećeni, a FRT se vidi kao brz, efikasan i jeftin način za pronalaženje osoba od interesa, kažu istraživači.
Najmanje deset policijskih snaga u Engleskoj i Velsu isprobalo je prepoznavanje lica, pri čemu su ispitivanja uključivala upotrebu FRT-a u operativne policijske svrhe—iako različite snage koriste različite standarde.
Pitanja privatnosti su duboka za policijsku tehnologiju koja skenira i potencijalno zadržava ogroman broj slika lica bez znanja ili saglasnosti. Istraživači ističu mogući „efekat zastrašivanja“ ako FRT dovede do nespremnosti da se koriste osnovna prava – pravo na protest, na primer – u javnosti, zbog straha od potencijalnih posledica.
Upotreba FRT-a takođe izaziva zabrinutost zbog diskriminacije. Istraživači ističu da se istorijski sistemi nadzora koriste za praćenje marginalizovanih grupa, a nedavne studije sugerišu da sama tehnologija sadrži inherentnu pristrasnost koja nesrazmerno pogrešno identifikuje žene, obojene osobe i osobe sa invaliditetom.
S obzirom na regulatorne praznine i neispunjavanje minimalnih standarda postavljenih u novom kompletu alata za reviziju, istraživači pišu da podržavaju pozive na „zabranu policijske upotrebe prepoznavanja lica u javno dostupnim prostorima“.
