Istraživači su razvili novi eksperiment kako bi bolje razumeli šta ljudi vide kao moralne i nemoralne odluke vezane za vožnju vozila, sa ciljem prikupljanja podataka za obuku autonomnih vozila kako da donose „dobre“ odluke. Rad je osmišljen tako da obuhvati realističniji niz moralnih izazova u saobraćaju od scenarija života i smrti o kojem se naširoko raspravlja inspirisan takozvanim „problemom kolica“.
Rad, „Moralna presuda u realističnim saobraćajnim scenarijima: Prelazak preko paradigme kolica za etiku autonomnih vozila,“ objavljen je u otvorenom pristupu u časopisu AI i društvo.
„Problem sa kolicima predstavlja situaciju u kojoj neko mora da odluči da li da namerno ubije jednu osobu (što krši moralnu normu) kako bi izbegao smrt više ljudi“, kaže Dario Čekini, prvi autor rada o delu i postdoktorski istraživač na Državnom univerzitetu Severne Karoline.
„Poslednjih godina, problem kolica se koristio kao paradigma za proučavanje moralnog rasuđivanja u saobraćaju“, kaže Čekini. „Tipična situacija uključuje binarni izbor za samovozeći automobil između skretanja ulevo, udaranja u smrtonosnu prepreku ili kretanja napred, udaranja pešaka koji prelazi ulicu.
„Međutim, ovi slučajevi nalik na kolica su nerealni. Vozači moraju da donose mnogo realnijih moralnih odluka svakog dana. Da li da vozim preko ograničenja brzine? Da prođem na crveno svetlo? Da li da zaustavim vozilo hitne pomoći?“
„Te svakodnevne odluke su važne jer na kraju mogu dovesti do situacija života ili smrti“, kaže Veljko Dubljević, dopisni autor rada i vanredni profesor na programu Nauka, tehnologija i društvo u NC State.
„Na primer, ako neko vozi 20 milja preko dozvoljene brzine i prođe kroz crveno svetlo, onda se može naći u situaciji da mora ili da skrene u saobraćaj ili upadne u sudar. Trenutno ima veoma malo podataka u literaturi. o tome kako donosimo moralne sudove o odlukama koje vozači donose u svakodnevnim situacijama.“
Da bi rešili taj nedostatak podataka, istraživači su razvili niz eksperimenata dizajniranih da prikupe podatke o tome kako ljudi donose moralne sudove o odlukama koje ljudi donose u saobraćajnim situacijama sa niskim ulozima. Istraživači su kreirali sedam različitih scenarija vožnje, kao što je roditelj koji treba da odluči da li da prekrši saobraćajni signal dok pokušava da svoje dete odvede u školu na vreme.
Svaki scenario je programiran u okruženje virtuelne realnosti, tako da učesnici studije uključeni u eksperiment imaju audio-vizuelne informacije o tome šta vozači rade kada donose odluke, umesto da samo čitaju o scenariju.
Za ovaj rad, istraživači su izgradili nešto što se zove Agent Deed Consekuence (ADC) model, koji postavlja da ljudi uzimaju u obzir tri stvari kada donose moralni sud: agenta, što je karakter ili namera osobe koja nešto radi. ; delo, ili ono što se radi; i posledica, odnosno ishod koji je proistekao iz dela.
Istraživači su kreirali osam različitih verzija svakog saobraćajnog scenarija, varirajući kombinacije agenta, dela i posledice. Na primer, u jednoj verziji scenarija gde roditelj pokušava da odvede dete u školu, roditelj je brižan, koči na žuto svetlo i vodi dete u školu na vreme.
U drugoj verziji, roditelj je nasilan, prolazi kroz crveno i izaziva nesreću. Ostalih šest verzija menjaju prirodu roditelja (agenta), njihovu odluku na semaforu (delo) i/ili ishod njihove odluke (posledicu).
„Ovde je cilj da učesnici studije vide jednu verziju svakog scenarija i utvrde koliko je moralno ponašanje vozača u svakom scenariju, na skali od 1 do 10“, kaže Čekini. „Ovo će nam dati robusne podatke o tome šta smatramo moralnim ponašanjem u kontekstu vožnje vozila, koji se zatim mogu koristiti za razvoj AI algoritama za moralno donošenje odluka u autonomnim vozilima.
Istraživači su uradili pilot testiranje kako bi fino podesili scenarije i osigurali da odražavaju uverljive i lako razumljive situacije.
„Sledeći korak je da se angažujemo u prikupljanju podataka velikih razmera, privlačeći hiljade ljudi da učestvuju u eksperimentima“, kaže Dubljević. „Potom možemo da koristimo te podatke za razvoj interaktivnijih eksperimenata sa ciljem daljeg finog podešavanja našeg razumevanja moralnog donošenja odluka. Sve ovo se onda može koristiti za kreiranje algoritama za upotrebu u autonomnim vozilima. Tada ćemo morati da angažujemo u dodatnom testiranju da vidimo kako ti algoritmi funkcionišu.“
