Tim istraživača sa Instituta IMDEA Softvare, Universidad Carlos III de Madrid i NEC Laboratories Europe uveo je novi okvir koji obećava da će poboljšati efikasnost i praktičnost proverljivog računarstva.
Istraživanje, detaljno opisano u radu „Modularni sumcheck Proofs vith Applications to Machine Learning and Image Processing“ i predstavljeno na poslednjoj konferenciji ACM (Association for Computing Machineri) o bezbednosti računara i komunikacija, bavi se izazovima skalabilnosti i modularnosti sa kojima se suočavaju i opšti dokazi. sistemi i rešenja prilagođena specifičnim primenama u veštačkoj inteligenciji i obradi slika.
Proverljivo izračunavanje obuhvata porodicu kriptografskih tehnika koje pružaju neopisivu garanciju da je neka treća strana, kao što je kompanija ili server u oblaku, izvršila ispravnu obradu podataka korisnika. Dokazivanje da je slika ili video montiran, da predviđanje koje je napravila veštačka inteligencija dolazi iz revidovanog modela ili da su u odluci o kreditnoj sposobnosti korišćeni samo podaci koje je dao klijent su neki od primera onoga što ove tehnike omogućavaju. Pored toga, proverljivo izračunavanje je kompatibilno sa privatnošću podataka, tako da, na primer, algoritmi koje server koristi u proračunu ostaju poverljivi.
Proverljivo izračunavanje obezbeđuje integritet, pravičnost i privatnost, suštinska svojstva u aplikacijama koje predaju zadatke obrade podataka. Unutar mogućih rešenja postoje opšti sistemi dokaza, kao što su oni koji se koriste u nekim blokčejnom, koji imaju problema sa skalabilnosti kada se bave proračunima sa velikim količinama podataka. S druge strane, rešenja dizajnirana posebno za ove aplikacije su efikasnija, ali često nekompatibilna jedno sa drugim, što otežava njihovo povećanje ili integraciju u veće lance obrade podataka.
Istraživači su uveli novi okvir koji ima za cilj da premosti ovaj jaz kombinovanjem prednosti performansi prilagođenih rešenja sa raznovrsnošću testnih sistema opšte namene. U osnovi je modularni pristup proverljivom izračunavanju sekvencijalnih operacija, koji je zasnovan na novom kriptografskom primitivu poznatom kao VE (Proverljiva Evaluation Scheme).
Istraživači demonstriraju praktičnu primenu svog okvira u veštačkoj inteligenciji predlažući novi VE prilagođen operacijama konvolucije, sposoban da rukuje višestrukim međusobno povezanim ulaznim i izlaznim kanalima.
„Naš protokol se lako može integrisati u lanac obrade podataka kako bi se omogućila potpuna verifikacija, na primer, predviđanja konvolucionih neuronskih mreža (CNN), koje su osnova većine modela veštačke inteligencije“, kaže David Balbas, dr. student na IMDEA softveru i istraživač ove studije.
Pored toga, u radu su predstavljeni i novi VE za obradu slike, koji omogućavaju efikasnu verifikaciju uređivanja ili retuširanja, uključujući operacije kao što su isecanje, zamagljivanje, skaliranje i druge složenije operacije.
Tim je napravio prototip primene svojih sistema za testiranje što je značajno poboljšanje u odnosu na postojeće tehnike. „Naše benchmarking pokazuje da su naši dokazi pet puta brži za generisanje i deset puta brži za proveru od najboljih postojećih rešenja do sada, pored uvođenja teoretskih inovacija u algoritme,“ objašnjava Damien Robissout, istraživački programer na Institutu IMDEA Softvare i takođe koautor studije.
Ovi rezultati ne samo da poboljšavaju efikasnost i skalabilnost kriptografskih dokaza, već i otvaraju nove mogućnosti za obezbeđivanje integriteta, pravičnosti i privatnosti zadataka obrade podataka u različitim primenama veštačke inteligencije i obrade slika.
„U današnje vreme, ovaj pristup je od suštinskog značaja u oblasti primene koju razmatramo, jer tehnološki napredak nije takav ako ne zaslužuje poverenje krajnjih korisnika“, kaže druga autorka studije, Maribel Gonzalez Vasko, profesorka izvrsnosti u UC3M Departman za matematiku.
Aplikacija generisana u studiji je otvorenog koda i njena modularna priroda otvara put za njeno proširenje i integraciju u različite alate unutar lanca obrade podataka. Na ovaj način istraživači otvaraju put za raznovrsnu i robusnu primenu proverljivih računanja u aplikacijama koje su različite kao što su finansijska etika, zaštita ličnih podataka ili regulacija veštačke inteligencije, između ostalog.
