Istraživači sa Univerziteta Ben-Gurion u Negevu razvili su računarsku metodu koja im omogućava da „obrnuti inženjering“ „odluku“ AI podele medicinske slike na komponente sa različitim kliničkim tumačenjem koje su važne za AI. Razumevanje mehanizma donošenja odluka AI modela je ključno za dešifrovanje bioloških procesa i medicinskih odluka.
Nalazi istraživanja objavljeni su u časopisu Nature Communications.
Duboko učenje, korišćenjem veštačkih neuronskih mreža, je računarski metod zasnovan na veštačkoj inteligenciji sposoban da uči obrasce direktno iz podataka imitirajući proces učenja ljudskog mozga. Primarni nedostatak korišćenja takvih metoda zasnovanih na veštačkoj inteligenciji je nemogućnost dešifrovanja razloga koji stoje iza odluke neuronske mreže.
Ovo ograničenje proizilazi iz činjenice da se proces obuke mreže odvija automatski, direktno iz podataka, bez ljudske intervencije. Ovaj nedostatak predstavlja značajnu prepreku široj upotrebi u oblastima kao što su biologija i medicina, gde objašnjenje nije ništa manje važno od sposobnosti mašine da donosi ispravne odluke.
Student doktorskih studija Oded Rotem, pod vođstvom prof. Asafa Zaritskog sa Odseka za softversko inženjerstvo i informacione sisteme na Univerzitetu Ben-Gurion u Negevu, razvio je računarsku metodu, nazvanu DISCOVER, za obrnuti inženjering AI razbijanjem slike na semantički smislene komponente kroz koje AI donosi svoju odluku.
U saradnji sa izraelskim startupom AIVF, istraživači su pokazali sposobnost tehnologije da karakteriše karakteristike embriona vantelesne oplodnje (IVF) koje su bile najznačajnije za AI u donošenju odluke u vezi sa vizuelnim kvalitetom embriona.
Da bi se osiguralo da se tehnologija može primeniti na druge domene izvan IVF-a, istraživači su demonstrirali tumačenje odluka veštačke inteligencije za MRI snimanje mozga pacijenata sa Alchajmerovom bolešću, pa čak i na slikama snimljenim standardnom kamerom da bi se protumačilo kako veštačka inteligencija pravi razliku između pasa i mačaka i između muškaraca i žena.
Istraživački tim je koristio bogatu bazu podataka hiljada embriona koje je prikupio AIVF. Embrioni su snimljeni pomoću svetlosnog mikroskopa, a embriolozi u kompaniji su pregledali i rangirali svaki embrion na osnovu nekoliko karakteristika, kao što su veličina embriona i lanac ćelija koji okružuju embrion u početnim fazama razvoja, klinički nazvan trofektoderm.
Istraživači su pokazali da AI može uspešno da predvidi kvalitet embriona sa performansama poput stručnjaka za ljude, ali AI nije ponudila istraživačima naznake o tome koje su karakteristike embriona dovele do uspešnog predviđanja.
„Duboko učenje može da identifikuje skrivene obrasce koje ljudsko oko ne može da otkrije u biomedicinskim slikama. Međutim, ovo nije dovoljno — da bismo doneli kliničke ili naučne odluke, moramo dešifrovati misteriju otkrivanja šta je AI identifikovao, tumačiti biološke ili kliničke značaj objašnjenja, i na osnovu tumačenja odlučiti o narednim koracima u lečenju ili istraživanju“, objasnio je prof. Zaritski.
Mehanizam interpretabilnosti DISCOVER-a se oslanja na „deepfake“ generativnu veštačku inteligenciju, koja omogućava, na primer, da se lice jedne osobe na slici zameni drugim. Tačnije, druga neuronska mreža može kreirati sintetičke slike embriona na kontrolisan način.
Kreiranje slika zasniva se na definisanju određenih komponenti u mreži, tako da će svaka komponenta biti značajna u predviđanju kvaliteta embriona s jedne strane, a sa druge će kodirati značajne delove slike. Svaka takva komponenta kodira jedinstvene delove slike pod pretpostavkom da će se oni prevesti u jasna i različita svojstva koja se mogu tumačiti.
Postepena promena ovih komponenti, jedne po komponente, omogućava generisanje slika embriona, od kojih se svaka razlikuje od prave slike u jednom svojstvu koje je važno za proces donošenja odluka AI.
Tako je moguće isti embrion ekspertu predstaviti na više načina, tako da se na svakoj slici jedno svojstvo veštački „pojača“, dok ostatak slike ostane nepromenjen. Ovaj metod omogućava stručnjaku da tumači način rada AI i pruža objektivna merenja koja ukazuju na važnost svake osobine u odluci.
Kreiranjem serije „lažnih“ slika embriona koji nikada nisu postojali, istraživači su uspeli da identifikuju promene u veličini embriona i lancu ćelija koje ga okružuju – u skladu sa odlukom embriologa u klinici.
Pored toga, istraživači su uspeli da identifikuju novo svojstvo koje je AI identifikovao kao važan indikator kvaliteta embriona bez ljudskog vođstva – specifičnu strukturu unutrašnje šupljine u embrionu koja sadrži hranljive materije za unutrašnju masu ćelija, klinički opisanu kao „gustina blastocista“.
„Embriolozi su dobro svesni značaja određenih bioloških karakteristika u određivanju kvaliteta embriona, ali je ljudsko oko često ograničeno u svojoj sposobnosti da ih precizno izmeri i proceni“, objasnila je Danijela Gilboa, izvršna direktorka AIVF-a i klinički embriolog po obrazovanju.
„Odličan primer za to je gustina blastocista, karakteristika od velike važnosti za kvalitet embriona koja se ne koristi široko klinički jer je veoma teško kvantifikovati kada se embrion vizuelno ispituje u laboratoriji. Sada, uz vizuelnu interpretaciju DISCOVER-a, to moguće je preciznije i objektivnije identifikovati i analizirati bitna biološka svojstva.
„Kao rezultat toga, možemo poboljšati proces odabira embriona sa najvećim šansama za uspešnu implantaciju u matericu, čime povećavamo šanse za uspeh u tretmanima plodnosti.
„Sposobnosti DISCOVER-a da identifikuju i veštački pojačaju obrasce slike koji su važni za AI mogu se primeniti na druge domene biološkog i medicinskog snimanja, gde se AI široko primenjuje“, primetio je Oded Rotem, doktorant koji je osmislio i razvio metod.
Dr Galit Mazuz Perlmuter, iz BGN, kompanije za komercijalizaciju Univerziteta Ben-Gurion u Negevu, takođe je primetio inherentni potencijal DISCOVER-a, rekavši: „Tehnologija koju je razvila laboratorija prof. Zaritskog ima translacionu važnost za različite medicinske primene.“
