U nedavnoj studiji koja spaja oblasti kvantne fizike i kompjuterske nauke, dr Jun-Jie Zhang i prof. Deiu Meng istraživali su ranjivosti neuronskih mreža kroz sočivo principa neizvesnosti u fizici.
Njihov rad, objavljen u National Science Review, povlači paralelu između podložnosti neuronskih mreža ciljanim napadima i ograničenja nametnutih principom nesigurnosti — dobro uspostavljenom teorijom u kvantnoj fizici koja ističe izazove istovremenog merenja određenih parova svojstava. .
Kvantno inspirisana analiza ranjivosti neuronske mreže sugeriše da suprotstavljeni napadi koriste kompromis između preciznosti ulaznih karakteristika i njihovih izračunatih gradijenata.
„Kada razmatramo arhitekturu dubokih neuronskih mreža, koje uključuju funkciju gubitka za učenje, uvek možemo da definišemo konjugovanu promenljivu za ulaze određivanjem gradijenta funkcije gubitka u odnosu na te ulaze“, kaže dr Džang, čija je stručnost leži u matematičkoj fizici .
Nadamo se da će ovo istraživanje podstaći ponovnu procenu pretpostavljene robusnosti neuronskih mreža i podstaći dublje razumevanje njihovih ograničenja. Podvrgavajući model neuronske mreže neprijateljskim napadima, dr Džang i prof. Meng su uočili kompromis između tačnosti modela i njegove otpornosti.
Njihovi nalazi pokazuju da se neuronske mreže, matematički slične kvantnim sistemima, bore da precizno reše obe konjugovane varijable – gradijent funkcije gubitka i ulazne karakteristike – istovremeno, nagoveštavajući unutrašnju ranjivost. Ovaj uvid je ključan za razvoj novih zaštitnih mera protiv sofisticiranih pretnji.
„Važnost ovog istraživanja je dalekosežna“, primećuje prof. Meng, stručnjak za mašinsko učenje i odgovarajući autor rada.
„Kako neuronske mreže igraju sve važniju ulogu u osnovnim sistemima, postaje imperativ da se razume i ojača njihova bezbednost. Ovo interdisciplinarno istraživanje nudi novu perspektivu za demistifikaciju ovih složenih sistema ‘crne kutije’, potencijalno informišući dizajn sigurnije i razumljivije AI modeli“.
