Termoset polimeri napravljeni od kompozitnih materijala daju nam sve, od betonskih ojačanja mostova do krila mlaznih aviona do trupa čamaca od fiberglasa, a misija Philippe Geubellea je da napravi ove kompozite koristeći metode koje su brže, jeftinije i energetski efikasnije od tradicionalnih metoda.
Geubelle, dr, Bliss profesor inženjerstva na Univerzitetu Ilinois Urbana-Champaign i izvršni dekan Grainger College of Engineering, radi sa interdisciplinarnom grupom za sisteme autonomnih materijala na Univerzitetskom institutu Beckman na modeliranju frontalne polimerizacije, tehnike koji pretvara tečne monomere u čvrste polimere pomoću hemijske reakcije.
„Kad god radimo simulaciju, potrebno je neko vreme jer je numerički veoma teško uhvatiti ovaj front koji se prostire kroz strukturu“, rekao je on. „Postoji mnogo parametara koji definišu ovaj proces. Želimo da znamo—šta će se desiti ako promenim hemiju ili ako promenim temperaturu na kojoj ovo radim? Šta ako promenim okruženje?“
Tim je već kreirao kompjuterske modele procesa, ali Geubelle je mislio da bi korišćenje mašinskog učenja moglo da ubrza modeliranje. Okrenuo se NCSA, domu stručnjaka za mašinsko učenje i veštačku inteligenciju, i Illinois Computes, programu koji povezuje NCSA računarske resurse i resurse za skladištenje podataka, tehničke stručnjake i usluge podrške sa istraživačima širom kampusa u Ilinoisu.
„Iskoristili smo prednosti ovog sjajnog programa pod nazivom Illinois Computes. Primarni cilj tog programa je zaista da uparimo istraživače u kampusu sa istraživačima u NCSA, a NCSA ima veoma dobru grupu koja se fokusira na mašinsko učenje i veštačku inteligenciju, uključujući korišćenje mašinskog učenja da rešimo parcijalne diferencijalne jednačine, što je ono što radimo“, rekao je Geubelle, dr.
Geubelle i postdoktorski istraživački asistent Kibang Liu bili su upareni sa Seidom Korićem, dr, tehničkim saradnikom direktora NCSA i profesorom mašinskih nauka i inženjerstva, i Diab V. D. Abueidda, naučnikom NCSA istraživača. Korić vodi projekte na čelu sa korišćenjem najnovijih dostignuća u veštačkoj inteligenciji i mašinskom učenju kako bi pomogao naučnicima da pokrenu modele i brže i tačnije pronađu odgovore.
Oni su kreirali različite napredne AI modele za rad na računarima visokih performansi tako što su prvo obučili veštačku neuronsku mrežu, proces dubokog učenja zasnovanog na ML-u koji koristi međusobno povezane čvorove u slojevitoj strukturi koja podseća na ljudski mozak. Napajajući neuronske mreže različitim vrednostima podataka za obuku, model uči na primeru i može biti obučen da prepozna obrasce u podacima, pronađe veze i predvidi ishode.
„Obuka ovih mreža obično zahteva mnogo podataka generisanih klasičnim numeričkim metodama da bi se smanjile greške predviđanja, što je računski skupo“, rekao je Abueidda. „Ali kada su ove mreže pravilno obučene, one mogu zaključiti rezultate za redove veličine brže od klasičnih računskih metoda za nove ulazne podatke.“
Koric i Abueidda su razvili novi način smanjenja količine podataka potrebnih za precizan trening neuronske mreže praćenjem evolucije greške definisane direktno iz osnovnih parcijalnih diferencijalnih jednačina. Fokusirajući tekuću obuku za mrežu na mere greške dobijene iz fizike (upravljajućih jednačina) – tim je bio u mogućnosti da pronađe i obuči podatke iz oblasti u modelu koje su bile najmanje tačne – i tako u velikoj meri smanjio potrebne podatke za obuku da se razvije tačan model.
„Mogućnost da precizno odredite i usredsredite se na oblasti u kojima vam je potrebna poboljšanja može dovesti do znatnog ubrzanja čitavog procesa“, rekao je Korić. „Odabirom podataka sa velikim greškama dobijenim iz fizičkih uvida za unos u sistem, umesto da slepo generišemo veliku količinu podataka, pronašli smo način da smanjimo potrebu za generisanjem puno podataka o obuci.“
Geubelle je dodao: „Ako ovo radite nasumično, rekao bih da je možda 40% primera obuke koje rešavate beskorisno jer ne poboljšavaju sistem mnogo. Sve svoje napore ulažete u obuku mreže u regionu gde je greška velika to je adaptivna priroda procesa.“
Tim je koristio NCSA-in Delta superkompjuter za pokretanje svojih modela. Sistem nudi i CPU i brže GPU procesore, a jedan od Liuovih napora je bio da radi sa NCSA na prilagođavanju kodova napisanih za CPU i GPU. Do sada je saradnja dovela do rada u časopisu The Journal of Phisical Chemistri. Tim je takođe dobio još jedan krug podrške od Illinois Computes-a da nastavi svoj rad.
„Razbijamo silose i zaista efikasno sarađujemo u okviru Illinois Computes. Svako donosi sopstvenu ekspertizu, a mi rešavamo izazovne ili nerešive probleme snagom mašinskog učenja, veštačke inteligencije i računarstva visokih performansi“, rekao je Korić.
„Ja generišem podatke sa CPU mašine, a zatim te podatke prenosim na GPU mašinu“, rekao je Liu. „Zapravo je potrebno malo vremena, ali sa neuronskom mrežom želimo da koristimo GPU mašine jer su mnogo brže“,
ML pristup modeliranju frontalne polimerizacije je takođe omogućio timu da mnogo efikasnije ispita i reši inverzni problem u proizvodnji, odnosno da pronađe skup uslova procesa—određenih varijablama kao što su početna temperatura, stepen očvršćavanja smole , gubitak toplote i još mnogo toga—što dovodi do propisanog obrasca proizvodnje. Rešavanje inverznog problema, rekao je Geubelle, ključno je za procese kao što je 3D štampanje jer je tada moguće ubaciti mikrostrukture u štampač koje rezultiraju završenom makrostrukturom.
„Ako mi kažete koja mi je mikrostruktura potrebna da bih ovo uradio, mogu da je pošaljem i da je napravim“, rekao je. „Ali da biste rešili ovaj inverzni problem, morate biti u stanju da rešite problem unapred stvarno, veoma brzo i tu dolazi mašinsko učenje.
Mašinsko učenje i AI, kao i novi adaptivni procesi dubokog učenja razvijeni u saradnji sa NCSA omogućavaju Geubelleu i njegovom timu da modeliraju problem frontalne polimerizacije u sekundama, a ne u satima. Ta brzina je neophodna za inverzni dizajn zbog ogromnog broja uključenih parametara. Geubelle je rekao da je njegova grupa radila na ubrzavanju procesa inverznog dizajna koristeći konvencionalne metode, ali je proces i dalje bio presporo.
Novi projekat će omogućiti timu da nastavi da se bavi izazovima višerazmernog modeliranja kompozitnih polimera koristeći nove veštačke neuronske mreže, uključujući generativne AI metode. Takođe će dublje ući u rad koji koristi ciljni dizajn materijala kao ulaz i daje varijable dizajna kao povrat. Očekuje se da će ovaj inverzni model „jednog udarca“ biti znatno efikasniji od konvencionalnijih metoda inverznog modeliranja, kaže Korić.
Kako ML modeli i AI nastavljaju da sazrevaju, adaptivni okvir obuke koji je razvio NCSA mogao bi biti primenljiv na mnoge druge oblasti nauke, uključujući različite inženjerske discipline, medicinu, geologiju i seizmička istraživanja, rekao je Korić.
Volodimir Kindratenko, direktor Centra za inovacije veštačke inteligencije (CAII) pri NCSA, primetio je da rad sa Geubelle-om i većom istraživačkom grupom na Bekman institutu stavlja Univerzitet u Ilinoisu na čelo inovativnog, kolaborativnog istraživanja AI/ML.
„Ovaj rad je odličan primer onoga što nazivamo translacionim istraživanjem veštačke inteligencije“, rekao je Kindratenko. „Korićev tim uzima postojeću metodologiju ML i koristi je na nove načine za rešavanje problema u domenu nauke gde niko nije ni pomislio da je to moguće. Radeći to, tim unapređuje oblast ML sa novim doprinosima i stvara ciklus inovacija u oba ML i računarske nauke, ovaj rad može poslužiti kao nacrt za druge istraživače u svojim domenima.
Korić je rekao da projekat takođe ruši barijere zbog kojih stručnjaci za tehnologiju i nauku i dalje rade odvojeno.
„Ako pogledate ovakvu vrstu istraživanja, ljudi su generalno u dva tabora“, rekao je on. „Imate kompjuterske naučnike, s jedne strane, koji rade svoja fundamentalna računarska istraživanja u oblasti veštačke inteligencije i mašinskog učenja, a sa druge strane, imate primenjene naučnike i inženjere koji koriste tradicionalne računarske metode, ali teže da unaprede svoja istraživanja na sledeći nivo sa AI/ML metode.
„Korićev tim uzima postojeću metodologiju ML i koristi je na nove načine za rešavanje problema u domenu nauke gde niko nije ni pomislio da je to moguće. Radeći to, tim unapređuje oblast ML sa novim doprinosima i stvara ciklus inovacija u oba ML i oblasti računarskih nauka“, rekao je Kindratenko.
„Razbijamo silose i zaista efikasno sarađujemo u okviru Illinois Computes. Svako donosi sopstvenu ekspertizu, a mi rešavamo izazovne ili nerešive probleme snagom mašinskog učenja, veštačke inteligencije i računarstva visokih performansi.“
Brendan McGinti, direktor NCSA-ovog Industri Partner Programa, primetio je da je privatni sektor nestrpljiv da skoči na kolonu AI, a rad NCSA-e podiže uticaj AI korak dalje.
„Dr. Korić i dr. Geubelle uzimaju u obzir dalje uključivanje veštačke inteligencije u modeliranje, tačnije, kako bi se pozabavili proizvodnjom polimera“, rekao je Mekginti. „Oni pokazuju da su dublja i brža poboljšanja modela moguća kombinovanjem veštačke inteligencije, modeliranja i ekspertize u domenu sa HPC-om kako bi se maksimiziralo povećanje. Na korporativnom kraju, ovo se prevodi u poboljšanu konkurentnost i povraćaj ulaganja.“
