Od izbegavanja sudara vozila preko sistema za planiranje avio-kompanija do mreža za napajanje, mnogim uslugama na koje se oslanjamo upravljaju računari. Kako ovi autonomni sistemi rastu u složenosti i sveprisutnosti, tako bi mogli i načini na koje ne uspevaju.
Sada su inženjeri MIT-a razvili pristup koji se može upariti sa bilo kojim autonomnim sistemom, kako bi brzo identifikovali niz potencijalnih kvarova u tom sistemu pre nego što se primene u stvarnom svetu. Štaviše, pristup može pronaći ispravke za kvarove i predložiti popravke kako bi se izbegli kvarovi sistema.
Tim je pokazao da pristup može iskorijeniti kvarove u različitim simuliranim autonomnim sistemima, uključujući malu i veliku mrežu električne mreže, sistem za izbjegavanje sudara aviona, tim dronova za spašavanje i robotski manipulator. U svakom od sistema, novi pristup, u obliku automatizovanog algoritma uzorkovanja, brzo identifikuje niz verovatnih kvarova, kao i popravke kako bi se izbegli ti kvarovi.
Novi algoritam se razlikuje od drugih automatizovanih pretraga, koje su dizajnirane da uoče najteže kvarove u sistemu. Ovim pristupima, kaže tim, mogu se propustiti suptilnije, iako značajne ranjivosti koje novi algoritam može uhvatiti.
„U stvarnosti, postoji čitav niz nereda koji bi se mogli desiti za ove složenije sisteme“, kaže Čarls Doson, diplomirani student na odseku za aeronautiku i astronautiku MIT-a. „Želimo da budemo u mogućnosti da verujemo ovim sistemima da će nas voziti, ili upravljati avionom, ili upravljati električnom mrežom. Zaista je važno znati njihova ograničenja i u kojim slučajevima će verovatno pokvariti.“
Doson i Čuču Fan, docenti aeronautike i astronautike na MIT-u, ove nedelje predstavljaju svoj rad na Konferenciji o robotskom učenju u Atlanti.
Godine 2021., veliki pad sistema u Teksasu naterao je Fan i Doson na razmišljanje. U februaru te godine, zimske oluje su se proširile državom, donoseći neočekivano hladne temperature koje su izazvale kvarove u električnoj mreži. Kriza je ostavila više od 4,5 miliona domova i preduzeća bez struje nekoliko dana. Slom u celom sistemu doveo je do najgore energetske krize u istoriji Teksasa.
„To je bio prilično veliki neuspeh koji me je naterao da se zapitam da li smo to mogli da predvidimo unapred“, kaže Doson. „Da li bismo mogli da iskoristimo naše znanje o fizici električne mreže da razumemo gde bi mogle biti njene slabe tačke, a zatim da ciljamo nadogradnje i softverske popravke kako bismo ojačali te ranjivosti pre nego što se desi nešto katastrofalno?“
Dosonov i Fanov rad se fokusira na robotske sisteme i pronalaženje načina da ih učine otpornijim u svom okruženju. Delimično podstaknuti krizom električne energije u Teksasu, krenuli su da prošire svoj obim, da uoče i poprave kvarove u drugim složenijim autonomnim sistemima velikih razmera. Da bi to uradili, shvatili su da će morati da promene konvencionalni pristup pronalaženju neuspeha.
Dizajneri često testiraju bezbednost autonomnih sistema tako što identifikuju njihove najverovatnije, najteže kvarove. Oni počinju sa kompjuterskom simulacijom sistema koji predstavlja njegovu osnovnu fiziku i sve varijable koje mogu uticati na ponašanje sistema. Zatim pokreću simulaciju sa vrstom algoritma koji sprovodi „konkurentnu optimizaciju“—pristup koji se automatski optimizuje za najgori scenario tako što pravi male izmene u sistemu, iznova i iznova, sve dok se ne može suziti na te promene koje povezani su sa najtežim kvarovima.
„Sažimanjem svih ovih promena u najozbiljniji ili najverovatniji neuspeh, gubite mnogo složenosti ponašanja koje ste mogli da vidite“, primećuje Doson. „Umesto toga, želeli smo da damo prioritet identifikaciji različitih neuspeha.“
Da bi to uradio, tim je zauzeo „osetljiviji“ pristup. Oni su razvili algoritam koji automatski generiše nasumične promene unutar sistema i procenjuje osetljivost, ili potencijalni otkaz sistema, kao odgovor na te promene. Što je sistem osetljiviji na određenu promenu, veća je verovatnoća da je ta promena povezana sa mogućim neuspehom.
Pristup omogućava timu da otkloni širi spektar mogućih neuspeha. Ovim metodom, algoritam takođe omogućava istraživačima da identifikuju popravke tako što će se vratiti kroz lanac promena koje su dovele do određenog neuspeha.
„Prepoznajemo da zaista postoji dualnost problema“, kaže Fan. „Postoje dve strane medalje. Ako možete da predvidite neuspeh, trebalo bi da budete u mogućnosti da predvidite šta da uradite da biste izbegli taj neuspeh. Naš metod sada zatvara tu petlju.“
Tim je testirao novi pristup na različitim simuliranim autonomnim sistemima, uključujući malu i veliku električnu mrežu. U tim slučajevima, istraživači su uparili svoj algoritam sa simulacijom generalizovanih, regionalnih električnih mreža. Oni su pokazali da, dok su konvencionalni pristupi usmereni na jedan dalekovod kao najranjiviji na kvar, algoritam tima je otkrio da, ako se kombinuje sa kvarom druge linije, može doći do potpunog zamračenja.
„Naš metod može otkriti skrivene korelacije u sistemu“, kaže Doson. „Zato što radimo bolji posao u istraživanju prostora neuspeha, možemo pronaći sve vrste neuspeha, što ponekad uključuje čak i teže neuspehe nego što postojeće metode mogu da pronađu.
Istraživači su pokazali slične različite rezultate u drugim autonomnim sistemima, uključujući simulaciju izbegavanja sudara aviona i koordinaciju dronova za spasavanje. Da bi videli da li će se njihova predviđanja neuspeha u simulaciji potvrditi u stvarnosti, oni su takođe demonstrirali pristup na robotskom manipulatoru – robotskoj ruci koja je dizajnirana da gura i podiže predmete.
Tim je prvo pokrenuo svoj algoritam na simulaciji robota koji je bio usmeren da gurne bocu s puta bez da je prevrne. Kada su pokrenuli isti scenario u laboratoriji sa stvarnim robotom, otkrili su da nije uspeo na način koji je algoritam predvideo – na primer, prevrnuo ga ili nije sasvim stigao do boce. Kada su primenili predloženu popravku algoritma, robot je uspešno odgurnuo bocu.
„Ovo pokazuje da, u stvarnosti, ovaj sistem ne uspeva kada predviđamo da hoće, i uspeva kada to očekujemo“, kaže Doson.
U principu, pristup tima mogao bi da pronađe i popravi kvarove u bilo kom autonomnom sistemu sve dok dolazi sa tačnom simulacijom njegovog ponašanja. Doson predviđa da bi se jednog dana pristup mogao pretvoriti u aplikaciju koju dizajneri i inženjeri mogu da preuzmu i primene da podese i pooštre sopstvene sisteme pre testiranja u stvarnom svetu.
„Kako povećavamo količinu na koju se oslanjamo na ove automatizovane sisteme za donošenje odluka, mislim da će se ukus neuspeha promeniti“, kaže Doson. „Umesto mehaničkih kvarova unutar sistema, videćemo više kvarova izazvanih interakcijom automatskog donošenja odluka i fizičkog sveta. Pokušavamo da objasnimo tu promenu identifikacijom različitih tipova kvarova i rešavanjem Sada.“
