Istraživači iz Oksford Martin programa za etičku veb i arhitekturu podataka (EVADA), Univerziteta u Oksfordu, pozvali su na promišljeniji pristup pri ugrađivanju etičkih principa u razvoj i upravljanje veštačkom inteligencijom za decu.
U perspektivnom radu objavljenom u Nature Machine Intelligence, autori ističu da, iako postoji sve veći konsenzus oko toga kako treba da izgledaju etički principi veštačke inteligencije na visokom nivou, premalo se zna o tome kako ih efikasno primeniti u principu za decu. Studija je mapirala globalni pejzaž postojećih etičkih smernica za veštačku inteligenciju i identifikovala četiri glavna izazova u prilagođavanju takvih principa za dobrobit dece:
Istraživači su se takođe oslanjali na primere i iskustva iz stvarnog života kada su identifikovali ove izazove. Otkrili su da iako se AI koristi da bi se deca zaštitila, obično identifikacijom neprikladnog sadržaja na mreži, nedostajalo je inicijative da se principi zaštite ugrade u inovacije veštačke inteligencije, uključujući one koje podržavaju modeli velikih jezika (LLM). Takva integracija je ključna kako bi se sprečilo da deca budu izložena pristrasnom sadržaju zasnovanom na faktorima kao što je etnička pripadnost ili štetnom sadržaju, posebno za ranjive grupe, a evaluacija takvih metoda treba da ide dalje od pukih kvantitativnih metrika kao što su tačnost ili preciznost.
Kroz svoje partnerstvo sa Univerzitetom u Bristolu, istraživači takođe dizajniraju alate za pomoć deci sa ADHD-om, pažljivo razmatrajući njihove potrebe i dizajnirajući interfejse koji će podržati njihovo deljenje podataka sa algoritmima povezanim sa veštačkom inteligencijom, na načine koji su usklađeni sa njihovim svakodnevnim rutama, veštine digitalne pismenosti i potreba za jednostavnim, ali efikasnim interfejsima.
Kao odgovor na ove izazove, istraživači su preporučili:
Dr Jun Zhao, saradnik iz Oksforda Martina, viši istraživač na Univerzitetskom odeljenju za računarske nauke i glavni autor rada, rekao je: „Uključivanje veštačke inteligencije u živote dece i našeg društva je neizbežno. Iako postoje povećane debate o tome ko bi trebalo da bi se osiguralo da su tehnologije odgovorne i etičke, značajan deo takvog tereta pada na roditelje i decu da se kreću ovim složenim pejzažom.
„Ovaj perspektivni članak ispitao je postojeće globalne etičke principe AI i identifikovao ključne nedostatke i buduće pravce razvoja. Ovi uvidi su kritični za usmeravanje naših industrija i kreatora politike. Nadamo se da će ovo istraživanje poslužiti kao značajna polazna tačka za međusektorsku saradnju u stvaranju etičke AI tehnologije za decu i razvoj globalne politike u ovom prostoru“.
Autori su izneli nekoliko etičkih principa veštačke inteligencije koje bi posebno trebalo uzeti u obzir za decu. Oni uključuju obezbeđivanje pravičnog, jednakog i inkluzivnog digitalnog pristupa, pružanje transparentnosti i odgovornosti prilikom razvoja AI sistema, čuvanje privatnosti i sprečavanje manipulacije i eksploatacije, garantovanje bezbednosti dece i stvaranje sistema prilagođenih uzrastu uz aktivno uključivanje dece u njihov razvoj.
Profesor Sir Nigel Shadbolt, koautor, direktor programa EVADA, direktor Jesus Collegea u Oksfordu i profesor računarstva na Odsjeku za računarske nauke, rekao je: „U eri algoritama zasnovanih na umjetnoj inteligenciji djeca zaslužuju sisteme koji zadovoljavaju njihove društvene , emocionalne i kognitivne potrebe. Naši sistemi veštačke inteligencije moraju da budu etički i poštuju u svim fazama razvoja, ali to je posebno kritično tokom detinjstva.“
