Nacionalni institut za standarde i tehnologiju američkog Ministarstva trgovine (NIST) objavio je svoj Okvir za upravljanje rizikom veštačke inteligencije (AI RMF 1.0), dokument sa uputstvom za dobrovoljnu upotrebu od strane organizacija koje dizajniraju, razvijaju, primenjuju ili koriste AI sisteme da pomognu u upravljanju mnogim rizici AI tehnologija.
AI RMF sledi uputstvo Kongresa za NIST da razvije okvir i proizveden je u bliskoj saradnji sa privatnim i javnim sektorom. Namera je da se prilagodi AI pejzažu kako tehnologije nastavljaju da se razvijaju, i da ga koriste organizacije u različitim stepenima i kapacitetima kako bi društvo moglo imati koristi od AI tehnologija, a istovremeno je zaštićeno od potencijalnih šteta.
„Ovaj dobrovoljni okvir će pomoći u razvoju i primeni AI tehnologija na načine koji omogućavaju Sjedinjenim Državama, drugim državama i organizacijama da povećaju poverenje u veštačku inteligenciju dok upravljaju rizicima na osnovu naših demokratskih vrednosti“, rekao je zamenik sekretara za trgovinu Don Grejvs. „Trebalo bi da ubrza inovacije i rast veštačke inteligencije dok napreduje — umesto da ograničava ili nanosi štetu — građanskim pravima, građanskim slobodama i jednakosti za sve.
U poređenju sa tradicionalnim softverom, AI predstavlja niz različitih rizika. Sistemi veštačke inteligencije su obučeni za podatke koji se vremenom mogu promeniti, ponekad značajno i neočekivano, utičući na sisteme na načine koji mogu biti teško razumljivi. Ovi sistemi su takođe „društveno-tehničke“ prirode, što znači da su pod uticajem društvene dinamike i ljudskog ponašanja. Rizici od veštačke inteligencije mogu proizaći iz složene interakcije ovih tehničkih i društvenih faktora, utičući na živote ljudi u situacijama u rasponu od njihovog iskustva sa onlajn chatbotovima do rezultata prijava za posao i kredit.
Okvir osposobljava organizacije da razmišljaju o AI i riziku drugačije. On promoviše promenu institucionalne kulture, podstičući organizacije da pristupe AI sa novom perspektivom—uključujući kako da razmišljaju, komuniciraju, mere i nadgledaju rizike od veštačke inteligencije i njegove potencijalne pozitivne i negativne uticaje.
AI RMF pruža fleksibilan, strukturiran i merljiv proces koji će omogućiti organizacijama da se bave rizicima AI. Praćenje ovog procesa za upravljanje rizicima od veštačke inteligencije može maksimizirati prednosti AI tehnologija dok istovremeno smanjuje verovatnoću negativnih uticaja na pojedince, grupe, zajednice, organizacije i društvo.
Okvir je deo većih napora NIST-a da neguje poverenje u tehnologije veštačke inteligencije – što je neophodno ako društvo želi da tehnologija bude široko prihvaćena, prema rečima podsekretara za standarde i tehnologiju i direktora NIST-a Laurie E. Locascio.
„Okvir za upravljanje rizikom od veštačke inteligencije može pomoći kompanijama i drugim organizacijama u bilo kom sektoru i bilo kojoj veličini da pokrenu ili unaprede svoje pristupe upravljanja rizikom od veštačke inteligencije“, rekao je Lokasio. „Nudi novi način za integraciju odgovornih praksi i praktičnih smernica za operacionalizaciju pouzdane i odgovorne veštačke inteligencije. Očekujemo da će AI RMF pomoći u razvoju najboljih praksi i standarda.“
AI RMF je podeljen na dva dela. Prvi deo govori o tome kako organizacije mogu da uobliče rizike vezane za veštačku inteligenciju i ističe karakteristike pouzdanih AI sistema. Drugi deo, srž okvira, opisuje četiri specifične funkcije — upravljanje, mapiranje, merenje i upravljanje — kako bi se pomoglo organizacijama da se bave rizicima AI sistema u praksi. Ove funkcije se mogu primeniti u slučajevima korišćenja specifičnim za kontekst iu bilo kojoj fazi životnog ciklusa veštačke inteligencije.
U bliskoj saradnji sa privatnim i javnim sektorom, NIST razvija AI RMF već 18 meseci. Dokument odražava oko 400 skupova formalnih komentara koje je NIST dobio od više od 240 različitih organizacija na nacrte verzija okvira. NIST je danas objavio izjave nekih od organizacija koje su se već obavezale da će koristiti ili promovisati okvir.
Agencija je takođe danas objavila prateći dobrovoljni AI RMF Playbook, koji predlaže načine za navigaciju i korišćenje okvira.
NIST planira da sarađuje sa zajednicom veštačke inteligencije na periodičnom ažuriranju okvira i pozdravlja predloge za dodatke i poboljšanja priručnika u bilo kom trenutku. Komentari primljeni do kraja februara 2023. biće uključeni u ažuriranu verziju priručnika koja će biti objavljena u proleće 2023.
Pored toga, NIST planira da pokrene Pouzdani i odgovorni resursni centar za veštačku inteligenciju kako bi pomogao organizacijama da primene AI RMF 1.0 u praksi. Agencija podstiče organizacije da razviju i dele profile o tome kako bi je primenili u svojim specifičnim kontekstima. Prijave se mogu slati na [email protected].
