Istraživači razvijaju energetski efikasne optičke neuronske mreže

Istraživači razvijaju energetski efikasne optičke neuronske mreže

Istraživači EPFL-a objavili su programabilni okvir koji prevazilazi ključno računarsko usko grlo sistema veštačke inteligencije zasnovane na optici. U seriji eksperimenata za klasifikaciju slika, koristili su rasejanu svetlost lasera ​​male snage da bi izvršili precizne, skalabilne proračune koristeći delić energije elektronike.

Kako digitalni sistemi veštačke inteligencije rastu u veličini i uticaju, raste i energija potrebna za njihovu obuku i primenu — da ne pominjemo povezane emisije ugljenika. Nedavna istraživanja sugerišu da bi, ako se trenutna proizvodnja AI servera nastavi trenutnim tempom, njihova godišnja potrošnja energije mogla nadmašiti potrošnju male zemlje do 2027.

Duboke neuronske mreže, inspirisane arhitekturom ljudskog mozga, posebno su gladne energije zbog miliona ili čak milijardi veza između više slojeva procesora sličnih neuronima.

Da bi se suprotstavili ovoj rastućoj potražnji za energijom, istraživači su udvostručili napore za implementaciju optičkih računarskih sistema, koji su eksperimentalno postojali od 1980-ih. Ovi sistemi se oslanjaju na fotone za obradu podataka, i iako se svetlost teoretski može koristiti za obavljanje proračuna mnogo brže i efikasnije od elektrona, ključni izazov je omeo sposobnost optičkih sistema da nadmaše najsavremeniju elektroniku.

„Naš metod je do 1.000 puta energetski efikasniji od najsavremenijih dubokih digitalnih mreža, što ga čini obećavajućom platformom za realizaciju optičkih neuronskih mreža“, kaže Demetri Psaltis.

„Da bi se klasifikovali podaci u neuronskoj mreži, svaki čvor, ili ‘neuron’, mora doneti ‘odluku’ da se aktivira ili ne na osnovu ponderisanih ulaznih podataka. Ova odluka vodi do onoga što je poznato kao nelinearna transformacija podataka, što znači da izlaz nije direktno proporcionalan ulazu“, kaže Kristof Mozer, šef Laboratorije za primenjene fotoničke uređaje u EPFL-ovoj školi inženjerstva.

Moser objašnjava da dok digitalne neuronske mreže mogu lako da izvrše nelinearne transformacije sa tranzistorima, u optičkim sistemima, ovaj korak zahteva veoma moćne lasere.

Moser je radio sa studentima Mustafom Jildirimom, Nijazijem Ulasom Dincem i Ilkerom Oguzom, kao i šefom Optičke laboratorije Demetrijem Psaltisom, na razvoju energetski efikasne metode za optičko izvođenje ovih nelinearnih proračuna.

Njihov novi pristup uključuje kodiranje podataka, poput piksela slike, u prostornoj modulaciji laserskog zraka male snage. Zrak se reflektuje na sebe nekoliko puta, što dovodi do nelinearnog množenja piksela.

„Naši eksperimenti za klasifikaciju slika na tri različita skupa podataka pokazali su da je naš metod skalabilan i do 1.000 puta energetski efikasniji od najsavremenijih dubokih digitalnih mreža, što ga čini platformom koja obećava za realizaciju optičkih neuronskih mreža“, kaže Psaltis.

Istraživanje je nedavno objavljeno u časopisu Nature Photonics.

U prirodi, fotoni ne stupaju u direktnu interakciju jedni sa drugima na način na koji to rade naelektrisani elektroni. Da bi postigli nelinearne transformacije u optičkim sistemima, naučnici su stoga morali da „prisile“ fotone na indirektnu interakciju, na primer korišćenjem svetlosti koja je dovoljno intenzivna da modifikuje optička svojstva stakla ili drugog materijala kroz koji prolazi.

Naučnici su radili oko ove potrebe za laserom velike snage sa elegantno jednostavnim rešenjem: kodirali su piksele slike prostorno na površini laserskog zraka male snage. Izvođenjem ovog kodiranja dvaput, podešavanjem putanje snopa u koderu, pikseli se sami po sebi množe, tj.

Pošto je kvadriranje nelinearna transformacija, ova strukturna modifikacija postiže nelinearnost esencijalnu za proračune neuronske mreže, uz delić cene energije. Ovo kodiranje se može izvršiti dva, tri ili čak deset puta, povećavajući nelinearnost transformacije i preciznost proračuna.

„Procenjujemo da je korišćenjem našeg sistema energija potrebna za optičko izračunavanje množenja osam redova veličine manja od one koja je potrebna za elektronski sistem“, kaže Psaltis.

Moser i Psaltis naglašavaju da je skalabilnost njihovog niskoenergetskog pristupa glavna prednost, jer bi krajnji cilj bio korišćenje hibridnih elektronsko-optičkih sistema za smanjenje potrošnje energije digitalnih neuronskih mreža.

Međutim, potrebna su dalja inženjerska istraživanja da bi se postiglo takvo povećanje. Na primer, pošto optički sistemi koriste drugačiji hardver od elektronskih sistema, sledeći korak na kojem istraživači već rade je razvoj kompajlera za prevođenje digitalnih podataka u kod koji optički sistemi mogu da koriste.