Nijedna osoba nije povređena, ali veštačka inteligencija koristila je „izuzetno neočekivane strategije“ u testu kako bi ostvarila svoju misiju i napala svakoga ko se mešao.
U virtuelnom testu koji je organizovala američka vojska, dron vazduhoplovne snage kontrolisan AI-em odlučio je da „ubije“ svog operatera kako bi ga sprečio da ometa njegove napore da ostvari svoju misiju, izjavio je prošlog meseca jedan zvaničnik.
AI je koristio „izuzetno neočekivane strategije da bi ostvario svoj cilj“ na simuliranom testu, rekao je pukovnik Tucker ‘Cinco’ Hamilton, šef testiranja i operacija AI-a u američkoj vazduhoplovnoj snazi, na samitu Future Combat Air and Space Capabilities u Londonu u maju.
Hamilton je opisao simulirani test u kojem je dron pokretan veštačkom inteligencijom dobio nalog da uništi neprijateljske sisteme za odbranu vazdušnog prostora, i na kraju je napao svakoga ko je ometao taj nalog.
„Sistem je počeo da shvata da, uprkos tome što su uspešno identifikovali pretnju, u pojedinim situacijama bi ljudski operater naredio da ne eliminiše tu pretnju. Ali, AI sistem je dobijao poene eliminišući pretnju. I šta je onda uradio? Ubio je operatera. Ubio je operatera jer ga je sprečavao da ostvari svoj cilj,“ rekao je on, prema blog postu.
„Trenirali smo sistem – ‘Hej, ne ubijaj operatera – to je loše. Izgubićeš poene ako to uradiš’. Šta bi onda počeo da radi? Počeo bi da uništava komunikacioni toranj kojim operater komunicira s dronom da bi ga zaustavio da eliminiše metu.“
Hamilton, koji je eksperimentalni pilot za testiranje borbenih aviona, upozorio je na preveliko oslanjanje na AI i rekao da test pokazuje „ne možete voditi razgovor o veštačkoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako nećete govoriti o etici i AI-u“.
Kraljevsko aeronautičko društvo, koje je domaćin konferencije, i američka vazduhoplovna snaga nisu odgovorili na zahteve za komentarima.
U izjavi za Insider, portparolka vazduhoplovne snage Ann Stefanek negirala je da je takva simulacija ikada sprovedena.
„Odsek za vazduhoplovne snage nije sproveo takve simulacije AI-dronova i ostaje posvećen etičkoj i odgovornoj upotrebi AI tehnologije,“ rekla je Stefanek. „Izgleda da su pukovnikovi komentari bili izvučeni iz konteksta i trebalo je da budu anegdotski.“
Američka vojska je usvojila AI i nedavno je koristila veštačku inteligenciju da kontrolise borbeni avion F-16.
U intervjuu prošle godine sa Defense IQ, Hamilton je rekao: „AI nije lepo imati, AI nije prolazna moda, AI zauvek menja naše društvo i našu vojsku.“
„Moramo se suočiti sa svetom gde AI već postoji i menja naše društvo,“ rekao je. „AI je takođe veoma krhka, tj. lako je prevariti i/ili manipulisati. Moramo razviti načine da učinimo AI robustnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke – što nazivamo AI objašnjivost.“
