Tokom proteklih decenija, kompjuterski stručnjaci su razvili raznolike duboke neuronske mreže (DNN) koje su namenjene rešavanju različitih stvarnih problema. Dok su neki modeli pokazali visoku efikasnost, istraživanja su ukazala na mogućnost nepravde, što znači da performanse ovih modela mogu varirati u zavisnosti od podataka na kojima su obučeni, kao i od hardverskih platformi na kojima se izvršavaju.
Na primer, istraživanja su pokazala da su alati za prepoznavanje lica zasnovani na dubokom učenju bili efikasniji u prepoznavanju karakteristika svetlih kože u poređenju sa tamnoputim osobama. Zbog ovih uočenih razlika, koje su delom proizašle iz nedostatka raznolikosti u obučavajućim podacima, istraživači su se posvetili unapređenju pravednosti postojećih modela.
Nedavno istraživanje sa Univerziteta Notr Dam istraživalo je kako hardverski sistemi mogu doprineti pravednosti veštačke inteligencije. Njihov rad, objavljen u Nature Electronics, identifikovao je načine na koje novi hardverski dizajni, poput uređaja za računanje u memoriji (CiM), mogu uticati na pravednost DNN-a.
Cilj ove studije bio je da ispita kako novi dizajni CiM hardvera utiču na pravednost DNN-ova, s obzirom na nedostatak istraživanja u vezi sa doprinosom dizajna hardvera pravednosti veštačke inteligencije. Istraživači su fokus stavili na odnos između hardvera i pravednosti sprovođenjem niza eksperimenata na različitim hardverskim postavkama, sa posebnim naglaskom na CiM arhitekture.
U okviru studije, sprovedeni su eksperimenti koji su istraživali uticaj različitih hardverski svesnih dizajna neuronskih arhitektura na pravednost postignutih rezultata. Ovi eksperimenti su doveli do zaključaka koji su ukazali na to da veće i složenije neuronske mreže, koje zahtevaju više hardverskih resursa, mogu pokazati veću pravednost, iako je njihova primena na uređajima sa ograničenim resursima izazovnija.
Pored toga, istraživači su predložili strategije koje bi mogle poboljšati pravednost AI bez značajnih računarskih zahteva. Na primer, kompresovanje većih modela može zadržati njihove performanse dok se smanjuje računarsko opterećenje.
Drugi set eksperimenata fokusirao se na specifične nepravilnosti, poput varijabilnosti uređaja i problema sa zaglavljenim greškama koje prate CiM arhitekture. Rezultati su ukazali na to da različiti kompromisi mogu biti postignuti pod različitim uslovima varijacija uređaja, naglašavajući potrebu za pažljivim razmatranjem dizajna AI modela i hardverskih platformi radi postizanja balansa između tačnosti i pravednosti.
Dalje istraživanje ovog tima može doprineti naporima usmerenim na povećanje pravednosti AI, podstičući programere da se fokusiraju na hardverske i softverske komponente radi razvoja sistema koji su tačni i pravični za različite korisničke profile.
