Kliničari u jedinici intenzivne nege moraju da donose složene odluke brzo i precizno, nadgledajući kritično bolesne ili nestabilne pacijente 24 sata dnevno.
Istraživači sa Instituta za interakciju između ljudi i računara (HCII) Univerziteta Carnegie Mellon sarađivali su sa lekarima i istraživačima sa Univerziteta u Pitsburgu i UPMC-a kako bi utvrdili da li veštačka inteligencija može da pomogne u ovom procesu donošenja odluka i da li bi kliničari uopšte verovali takvoj pomoći.
Tim je dao 24 lekara intenzivne nege pristup alatu zasnovanom na veštačkoj inteligenciji dizajniranom da pomogne u donošenju odluka i otkrio je da je većina uključila pomoć u neke od svojih odluka.
„Čini se kao da su kliničari uzbuđeni zbog potencijala da im AI pomogne, ali možda nisu upoznati sa načinom na koji bi ovi alati AI funkcionisali. Tako da je zaista zanimljivo doneti im ove sisteme“, rekao je Venkateš Sivaraman, dr. . student u HCII i član istraživačkog tima.
Koristeći model AI Clinician koji je u Nature uvela grupa istraživača 2018. godine, tim je dizajnirao interaktivni interfejs za podršku kliničkom odlučivanju (CDS) – nazvan AI Clinician Ekplorer – koji daje preporuke za lečenje sepse. Model je obučen na skupu podataka od više od 18.000 pacijenata koji su ispunili standardne dijagnostičke kriterijume za sepsu u nekom trenutku tokom boravka u intenzivnoj intenzivnoj. Sistem omogućava kliničkim stručnjacima da filtriraju i traže pacijente u skupu podataka, vizualizuju njihove putanje bolesti i uporede predviđanja modela sa stvarnim odlukama o lečenju koje se donose pored kreveta.
„Kliničari uvek unose mnogo podataka o pacijentima koje vide u ove kompjuterske sisteme i elektronske zdravstvene kartone“, rekao je Sivaraman. „Ideja je da možda možemo naučiti iz nekih od tih podataka kako bismo pokušali da ubrzamo neke od njihovih procesa, olakšamo im živote i možda poboljšamo doslednost nege.
Tim je testirao svoj sistem putem studije naglas sa 24 kliničara koji praktikuju na intenzivnoj intenzivnoj nezi i imaju iskustva u lečenju sepse. Tokom studije, učesnici su koristili pojednostavljeni interfejs AI Clinician Ekplorer za procenu i donošenje odluka o lečenju za četiri simulirana slučaja pacijenata.
„Mislili smo da će kliničari ili pustiti AI da u potpunosti donese odluku ili je potpuno ignorisati i donijeti sopstvenu odluku“, rekao je Sivaraman.
Ali rezultati nisu bili tako binarni. Tim je identifikovao četiri uobičajena ponašanja među kliničarima: ignorisanje, oslanjanje, razmatranje i pregovaranje. Grupa za ignorisanje nije dozvolila AI da utiče na njihovu odluku i uglavnom je donosila odluke pre nego što je uopšte pogledala preporuku.
Nasuprot tome, grupa „oslonjenih“ je dosledno prihvatala barem deo doprinosa AI u svakoj odluci. U grupi „razmotrite“, lekari su razmišljali o preporuci veštačke inteligencije u svakom slučaju, a zatim su je ili prihvatili ili odbili. Većina učesnika, međutim, spada u „pregovaračku“ grupu, koja uključuje praktičare koji su prihvatili pojedinačne aspekte preporuka u barem jednoj od svojih odluka, ali ne u svim.
Tim je bio iznenađen ovim rezultatima, koji su takođe pružili uvid u načine da se poboljša AI Clinician Ekplorer. Kliničari su izrazili zabrinutost da AI nije imao pristup holističkijim podacima, kao što je opšti izgled pacijenta, i bili su skeptični kada je AI davao preporuke suprotne onome što su učili.
„Kada CDS odstupa od onoga što bi kliničari obično radili ili smatrali najboljom praksom, nije bilo dobrog smisla zašto“, rekao je Sivaraman. „Dakle, sada se fokusiramo na utvrđivanje kako da obezbedimo te podatke i potvrdimo ove preporuke, što je izazovan problem koji će zahtevati mašinsko učenje i veštačku inteligenciju.“
Istraživanje tima ne pokušava da zameni ili ponovi donošenje odluka lekara, već se nada da će koristiti veštačku inteligenciju da otkrije obrasce koji su možda ostali neprimećeni u prethodnim ishodima pacijenata.
„Postoji mnogo bolesti, poput sepse, koje se mogu pokazati veoma različito za svakog pacijenta, a najbolji način delovanja može biti drugačiji u zavisnosti od toga“, rekao je Sivaraman. „Nemoguće je da bilo koji čovek sakupi svo to znanje da bi znao kako da uradi stvari najbolje u svakoj situaciji. Tako da možda AI može da ih gurne u pravcu koji nisu razmatrali ili da pomogne da se potvrdi ono što smatraju najboljim pravcem delovanja.“
Među Sivaramanovim saradnicima su Adam Perer, docent istraživač u HCII; Leigh Bukovski, viši menadžer istraživanja na Školi javnog zdravlja Univerziteta u Pitsburgu; Joel Levin, doktorant na Pitt’s Katz Graduate School of Business; i Džeremi Kan, lekar na UPMC-ovom odeljenju za intenzivnu medicinu i vanredni profesor medicine kritične nege i zdravstvene politike na Pitovoj medicinskoj školi i školi javnog zdravlja.
Sivaraman je ovog meseca predstavio rad tima „Ignoriši, veruj ili pregovaraj: razumevanje kliničkog prihvatanja preporuka lečenja zasnovanih na veštačkoj inteligenciji u zdravstvenoj zaštiti“ na konferenciji Udruženja za računarske mašine o ljudskim faktorima u računarskim sistemima (CHI 2023) u Hamburgu, Nemačka.
