Uzbunjivanje zbog veštačke inteligencije postalo je popularna zabava u eri ČetGPT-a, koju su preuzele visoke ličnosti kao što su industrijalac Elon Mask, levičarski intelektualac Noam Čomski i 99-godišnji penzionisani državnik Henri Kisindžer.
Ali zabrinutost insajdera u istraživačkoj zajednici AI privlače posebnu pažnju. Pionirski istraživač i takozvani „Kum veštačke inteligencije“ Džefri Hinton napustio je svoju ulogu u Guglu kako bi mogao slobodnije da govori o opasnostima tehnologije kojoj je pomogao da se stvori.
Tokom svoje višedecenijske karijere, Hintonov pionirski rad na dubokom učenju i neuronskim mrežama pomogao je u postavljanju temelja za veći deo AI tehnologije koju danas vidimo.
Neke od opasnosti od AI chat robota su „prilično zastrašujuće“, rekao je Hinton za BBC. „U ovom trenutku, oni nisu inteligentniji od nas, koliko mogu da kažem. Ali mislim da bi uskoro mogli biti.”
U intervjuu za MIT Technologi Reviev, Hinton je takođe ukazao na „loše aktere“ koji mogu da koriste veštačku inteligenciju na načine koji mogu imati štetne uticaje na društvo – kao što su manipulacija izborima ili podsticanje nasilja.
Hinton (75) kaže da se povukao iz Gugla da bi mogao otvoreno da govori o potencijalnim rizicima kao neko ko više ne radi za tehnološkog giganta.
„Želim da pričam o bezbednosnim problemima veštačke inteligencije, a da ne moram da brinem o tome kako je u interakciji sa Google-ovim poslovanjem“, rekao je on za MIT Technologi Reviev. „Sve dok me Google plaća, ne mogu to da uradim.“
Gugl je potvrdio da se Hinton povukao sa svoje uloge nakon što je 10 godina nadgledao Google istraživački tim u Torontu.
Hinton nije odmah odgovorio na zahtev Asošijejted presa za komentar.
U središtu debate o stanju veštačke inteligencije je da li su primarne opasnosti u budućnosti ili sadašnjosti. Na jednoj strani su hipotetički scenariji egzistencijalnog rizika uzrokovanog kompjuterima koji zamenjuju ljudsku inteligenciju. S druge strane, postoji zabrinutost zbog automatizovane tehnologije koju preduzeća i vlade već široko koriste i koja može da izazove štetu u stvarnom svetu.
„Bilo dobro ili ne, ono što je trenutak za ćaskanje učinio je da je AI postao nacionalni razgovor i međunarodni razgovor koji ne uključuje samo stručnjake i programere AI“, rekla je Alondra Nelson, koja je do februara vodila Kancelariju za nauku i nauke Bele kuće. Tehnološka politika i njen pritisak na izradu smernica oko odgovorne upotrebe alata veštačke inteligencije.
„AI više nije apstraktan, i mislim da imamo ovu vrstu otvaranja za novi razgovor o tome kako želimo da izgleda demokratska budućnost i neeksploatatorska budućnost sa tehnologijom“, rekao je Nelson u intervjuu prošlog meseca .
Brojni istraživači veštačke inteligencije dugo su izražavali zabrinutost zbog rasnih, rodnih i drugih oblika pristrasnosti u sistemima veštačke inteligencije, uključujući tekstualne velike jezičke modele koji su obučeni na ogromnim količinama ljudskog pisanja i mogu da pojačaju diskriminaciju koja postoji u društvu.
„Moramo da napravimo korak unazad i zaista razmislimo o tome čije potrebe se stavljaju u prvi plan i u središte diskusije o rizicima“, rekla je Sara Majers Vest, generalna direktorka neprofitnog instituta AI Nov. „Šteta koju danas nanose sistemi veštačke inteligencije zaista nije ravnomerno raspoređena. To u velikoj meri pogoršava postojeće obrasce nejednakosti.“
Hinton je bio jedan od tri pionira veštačke inteligencije koji su 2019. godine osvojili Tjuringovu nagradu, čast koja je postala poznata kao verzija Nobelove nagrade za tehnološku industriju. Druga dva pobednika, Joshua Bengio i Iann LeCun, takođe su izrazili zabrinutost za budućnost veštačke inteligencije.
Bengio, akademik i istraživač veštačke inteligencije, potpisao je peticiju krajem marta pozivajući tehnološke kompanije da pristanu na šestomesečnu pauzu u razvoju moćnih AI sistema, dok je LeKun, vrhunski naučnik veštačke inteligencije u Facebook roditelj Meta, zauzeo optimističniji pristup .
