U komentaru objavljenom u The American Journal of Bioethics, Anthoni P. Veiss, MD, MBA, MSc, glavni medicinski službenik u Beth Israel Deaconess Medical Center (BIDMC), ističe da trenutni pristup regulaciji aplikacija za veštačku inteligenciju (AI) u medicini nije adekvatan. Veiss predlaže novi model koji bi odražavao nadzorni odnos između pripravnika i iskusnih lekara, umesto da se oslanja na postojeće regulatorne okvire.
Veiss se posebno fokusira na sve veću upotrebu medicinskih adaptivnih sistema mašinskog učenja (MAMLS), koji su sistemi sposobni za neprekidno učenje i prilagođavanje. U trenutnom regulatornom okviru, MAMLS se tretiraju slično medicinskim uređajima, što znači da moraju proći odobrenje od strane FDA pre nego što se mogu koristiti u kliničkim okruženjima. Međutim, ovi sistemi se suočavaju s posebnim izazovima koji dolaze sa onim što se naziva „problem ažuriranja“.
„Problem ažuriranja“ se odnosi na to da, kada se MAMLS prilagođavaju ili uče nakon implementacije, oni postaju suštinski drugačiji od onih koji su prvobitno dobili odobrenje za upotrebu. Veiss ističe da to čini standardni proces nadzora FDA neadekvatnim, jer se ne može lako osigurati da ažurirane verzije sistema i dalje ispunjavaju iste bezbednosne standarde.
Veiss predlaže okvir koji MAMLS tretira kao oblik pružanja zdravstvenih usluga, a ne samo kao mašine. On naglašava da su i mašine i ljudi podložni greškama, pristrasnostima i stalnim prilagođavanjima u dinamičnom okruženju zdravstvene zaštite. Ovaj pristup, inspirisan tradicionalnim mentorstvom u medicinskom obrazovanju, može bolje odražavati prirodu adaptivnih sistema u zdravstvu.
Veissova analiza naglašava potrebu za novim pristupom regulaciji veštačke inteligencije u medicini, koji uzima u obzir jedinstvene karakteristike adaptivnih sistema mašinskog učenja. Njegova ideja da se oslonimo na model mentorstva može otvoriti put za poboljšanje regulative i osiguranje sigurnosti u upotrebi AI u zdravstvenim uslugama. Ovaj novi okvir može pomoći u očuvanju kvaliteta i bezbednosti dok se istovremeno omogućava razvoj i inovacije u medicinskoj tehnologiji.
