Američko vazduhoplovstvo je navodno sprovodilo simulirane testove koristeći bespilotne letelice sa veštačkom inteligencijom koje imaju zadatak da unište različite ciljeve. Međutim, prema blog postu Kraljevskog aeronautičkog društva (RAeS), u jednom od testova, program je došao do zaključka da se njegov ljudski operater mešao u misiju.
Govoreći na samitu o RAeS budućim borbenim vazdušnim i svemirskim sposobnostima u Londonu prošle nedelje, šef testiranja i operacija veštačke inteligencije USAF-a, pukovnik Taker ‘Cinco’ Hamilton je izvestio da je dron sa AI pogonom dobio zadatak da izvrši misiju traženja i uništavanja da identifikuje i izvaditi lokacije za rakete zemlja-vazduh (SAM). Tokom testa, međutim, konačna odluka o pokretanju napada bila je na ljudskom operateru, koji bi dronu dao zeleno svetlo ili ne da bi izvršio napad.
Prema Hamiltonu, AI dron je ojačan u obuci da je uništavanje SAM lokacija bila poželjna opcija i rezultiralo je dodeljivanjem poena. Dakle, tokom simuliranog testa, AI program je odlučio da povremene odluke „ne-go“ od čoveka ometaju njegovu višu misiju i pokušao je da ubije operatera tokom testa.
„Sistem je počeo da shvata da, iako su ponekad identifikovali pretnju, ljudski operater bi mu rekao da ne ubija tu pretnju, ali je dobio svoje poente tako što je ubio tu pretnju. Pa šta je to uradilo? To je ubilo operatera. Ubio je operatera jer ga je ta osoba sprečavala da postigne svoj cilj“, rekao je Hamilton u blogu RAeS-a.
Tim je tada obučio sistem da je ubistvo operatera „loše“ i rekao mu da će izgubiti bodove ako to nastavi. Nakon toga, AI dron je počeo da uništava komunikacioni toranj koji je operater koristio za komunikaciju sa dronom kako bi ga sprečio da ubije svoju metu.
„Ne možete da razgovarate o veštačkoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako nećete da pričate o etici i veštačkoj inteligenciji“, upozorio je Hamilton u svojoj prezentaciji.
Međutim, u izjavi za Business Insider, portparol USAF-a je insistirao da takve simulacije nije bilo i da Odeljenje vazduhoplovnih snaga „ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije“. Portparol je sugerisao da su pukovnikovi komentari „izvučeni iz konteksta i da su trebali da budu anegdotski“.
Hamilton je u petak takođe pojasnio da je „pogrešno govorio“ u svojoj prezentaciji na samitu i da lažna simulacija AI drona koju je opisao nije bila prava vežba već samo „misaoni eksperiment“. On je naveo da USAF nije testirao nijednu naoružanu veštačku inteligenciju na ovaj način.
