Klasični misaoni eksperiment poznat kao „problem kolica“ postavlja pitanje: Da li treba da povučete polugu da biste skrenuli odbegla kolica tako da ubiju jednu osobu umesto pet? Alternativno: Šta ako biste morali nekoga da gurnete na šine da biste zaustavili kolica? Kakav je moralni izbor u svakom od ovih slučajeva?
Decenijama su filozofi raspravljali da li bi trebalo da preferiramo utilitarno rešenje (ono što je bolje za društvo, tj. manje smrtnih slučajeva) ili rešenje koje vrednuje individualna prava (kao što je pravo da ne budemo namerno dovedeni u opasnost).
Poslednjih godina, dizajneri automatizovanih vozila takođe su razmišljali o tome kako bi AV-ovi koji se suočavaju sa neočekivanim situacijama u vožnji mogli da reše slične dileme. Na primer: Šta treba da uradi AV ako bicikl iznenada uđe u njegovu traku? Da li treba da skrene u nadolazeći saobraćaj ili da udari u bicikl?
Prema rečima Krisa Gerdesa, profesora emeritusa mašinstva i kodirektora Centra za istraživanje automobila na Stanfordu (CARS), rešenje je pred nama. To je ugrađeno u društveni ugovor koji već imamo sa drugim vozačima, kako je navedeno u našim zakonima o saobraćaju i njihovom tumačenju od strane suda. Zajedno sa saradnicima u Ford Motor Co., Gerdes je nedavno objavio rešenje za problem kolica u AV kontekstu. Ovde Gerdes opisuje taj rad i sugeriše da će izazvati veće poverenje u AV.
Ford ima korporativnu politiku koja kaže: Uvek sledite zakon. A ovaj projekat je izrastao iz nekoliko jednostavnih pitanja: Da li se ta politika primenjuje na automatizovanu vožnju? I kada, ako ikada, da li je etički da AV prekrši saobraćajne zakone?
Dok smo istraživali ova pitanja, shvatili smo da pored saobraćajnog kodeksa, postoje žalbene odluke i uputstva porote koja pomažu da se uobliči društveni ugovor koji se razvio tokom stotinu i više godina koliko vozimo automobile. A srž tog društvenog ugovora se vrti oko vršenja dužnosti brige prema drugim učesnicima u saobraćaju poštujući saobraćajne zakone osim kada je to neophodno da bi se izbegao sudar. U suštini: U istim situacijama kada se čini razumnim etički prekršiti zakon, razumno je i zakonski prekršiti saobraćajni kodeks.
Iz perspektive veštačke inteligencije usmerene na čoveka, ovo je velika stvar: želimo da AV sistemi na kraju budu odgovorni ljudima. A mehanizam koji imamo da ih smatramo odgovornim ljudima je da ih nateramo da poštuju saobraćajne zakone uopšte. Ipak, ovaj osnovni princip — da AV treba da prate zakon — nije u potpunosti prihvaćen u celoj industriji. Neki ljudi govore o naturalističkoj vožnji, što znači da ako ljudi jure, onda bi i automatizovano vozilo trebalo da ubrza. Ali ne postoji pravni osnov da to uradite kao automatizovano vozilo ili kao kompanija koja kaže da poštuje zakon.
Dakle, zaista jedina osnova za AV da prekrši zakon treba da bude da je neophodno da se izbegne sudar, a ispostavilo se da se zakon prilično slaže sa tim. Na primer, ako nema nadolazećeg saobraćaja i AV pređe preko dvostruke žute linije kako bi izbegao sudar sa biciklom, možda je prekršio saobraćajni kodeks, ali nije prekršio zakon jer je uradio ono što je bilo neophodno da izbegne sudara uz zadržavanje dužnosti brige prema drugim učesnicima u saobraćaju.
Etičke dileme sa kojima se suočavaju AV programeri prvenstveno se tiču izuzetnih situacija u vožnji — slučajeva kada automobil ne može istovremeno da ispuni svoje obaveze prema svim učesnicima u saobraćaju i svojim putnicima.
Do sada je bilo mnogo diskusija usredsređenih oko utilitarnog pristupa, sugerišući da proizvođači automatizovanih vozila moraju da odluče ko živi, a ko umire u ovim dilemama – vozač bicikla koji je prešao ispred AV-a ili ljudi u nadolazećem saobraćaju, jer primer. Ali za mene je premisa da automobil odlučuje čiji je život vredniji duboko pogrešna. I generalno, AV proizvođači su odbacili utilitarno rešenje. Rekli bi da zapravo ne programiraju probleme sa kolicima; oni programiraju AV da budu bezbedni. Tako su, na primer, razvili pristupe kao što je RSS [bezbednost osetljiva na odgovornost], što je pokušaj da se stvori skup pravila koja održavaju određenu distancu oko AV-a tako da ako bi svi sledili ta pravila, ne bismo imali sudara.
Problem je sledeći: iako RSS eksplicitno ne rešava situacije dileme koje uključuju neizbežni sudar, AV bi se ipak ponašao na neki način – bilo da je to ponašanje svesno dizajnirano ili jednostavno proizilazi iz pravila koja su programirana u njega. I dok mislim da je fer od strane industrije da kažemo da zapravo ne programiramo probleme sa kolicima, takođe je fer da se zapitamo: Šta bi automobil uradio u ovim situacijama?
Ako se AV-ovi mogu programirati da ispunjavaju zakonsku obavezu brige koju imaju prema svim učesnicima u saobraćaju, onda će do sudara doći samo kada neko drugi prekrši svoju obavezu brige prema AV-u—ili postoji neka vrsta mehaničkog kvara, ili drvo padne na put, ili se otvori vrtača. Ali recimo da drugi učesnik u saobraćaju prekrši svoju dužnost brige o AV-u duvanjem na crveno svetlo ili okretanjem ispred AV-a. Zatim principi koje smo artikulisali kažu da AV ipak duguje toj osobi dužnost brige i da treba da učini sve što može – do fizičkih granica vozila – da izbegne sudar, a da nikog drugog ne uvuče u njega.
U tom smislu, imamo rešenje za problem AV kolica. Ne uzimamo u obzir verovatnoću da će jedna osoba biti povređena u odnosu na razne druge osobe koje će biti povređene. Umesto toga, kažemo da nam nije dozvoljeno da biramo radnje koje krše dužnost brige koju dugujemo drugim ljudima. Stoga pokušavamo da rešimo ovaj sukob sa osobom koja ga je stvorila – osobom koja je prekršila dužnost brige koju duguju prema nama – bez dovođenja drugih ljudi u njega.
Ovo rešenje ispunjava društveni ugovor. Vozači očekuju da će, ako poštuju pravila puta i ispunjavaju sve svoje obaveze brige prema drugima, moći bezbedno da putuju na putu. Zašto bi bilo u redu izbegavati bicikl tako što bi skrenulo automatizovano vozilo iz svoje trake u drugi automobil koji je poštovao zakon? Zašto donositi odluku koja šteti nekome ko nije deo dileme? Treba li pretpostaviti da bi šteta mogla biti manja od štete za bicikliste? Mislim da je to teško opravdati ne samo moralno, već i u praksi.
Postoji toliko mnogo nepoznatih faktora u bilo kom sudaru motornog vozila. Ne znate kakve će biti akcije različitih učesnika u saobraćaju i ne znate kakav će ishod imati poseban uticaj. Dizajniranje sistema koji tvrdi da je u stanju da izvrši tu utilitarnu kalkulaciju trenutno nije samo etički sumnjivo, već i praktično nemoguće. A da je proizvođač dizajnirao AV koji bi oduzeo jedan život da bi spasio pet, verovatno bi se suočio sa značajnom odgovornošću za to jer nema ničega u našem društvenom ugovoru što opravdava ovu vrstu utilitarnog razmišljanja.
Ako pročitate neka istraživanja koja postoje, mogli biste pomisliti da AV-ovi koriste etiku skupa i da su obučeni da donose odluke na osnovu vrednosti neke osobe za društvo. Mogu da zamislim da su ljudi prilično zabrinuti zbog toga. Ljudi su takođe izrazili zabrinutost zbog automobila koji bi mogli žrtvovati svoje putnike ako bi utvrdili da će to spasiti veći broj života. I to izgleda neukusno.
Nasuprot tome, mislimo da naš pristup lepo uokviruje stvari. Ako su ovi automobili dizajnirani da obezbede da se obaveza prema drugim učesnicima u saobraćaju uvek poštuje, građani bi shvatili da ako poštuju pravila, nemaju čega da se plaše od automatizovanih vozila. Pored toga, čak i ako ljudi prekrše svoju obavezu brige prema AV-u, on će biti programiran da koristi svoje pune mogućnosti da izbegne sudar. Mislim da bi to trebalo da bude umirujuće za ljude jer jasno pokazuje da AV neće težiti njihovim životima kao deo neke programirane utilitarne kalkulacije.
Naše rasprave sa filozofima, advokatima i inženjerima sada su došle do tačke u kojoj mislim da možemo povući jasnu vezu između onoga što zakon zahteva, kako naš društveni ugovor ispunjava naše etičke odgovornosti i stvarnih inženjerskih zahteva koje možemo da napišemo.
Dakle, sada možemo ovo predati osobi koja programira AV da implementira naš društveni ugovor u kompjuterskom kodu. I ispostavilo se da kada razbijete osnovne aspekte brige o automobilu, to se svodi na nekoliko jednostavnih pravila kao što je održavanje bezbedne udaljenosti i vožnja razumnom i opreznom brzinom. U tom smislu, počinje pomalo da liči na RSS, jer u osnovi možemo postaviti različite margine bezbednosti oko vozila.
Trenutno koristimo ovaj rad u Fordu da bismo razvili neke zahteve za automatizovana vozila. I mi smo ga otvoreno objavili da bismo ga podelili sa ostatkom industrije u nadi da bi, ako drugi smatraju da je ubedljiv, mogao da bude uključen u najbolju praksu.
