Četiri stručnjaka za veštačku inteligenciju izrazila su zabrinutost nakon što je njihov rad citiran u otvorenom pismu – koje je zajedno potpisao Elon Musk – zahtevajući hitnu pauzu u istraživanju.
U pismu od 22. marta i sa više od 1.800 potpisa do petka, poziva se na šestomesečni prekidač u razvoju sistema „moćnijih“ od novog GPT-4 OpenAI koji podržava Microsoft (MSFT.O), koji može vodite ljudski razgovor, komponujte pesme i rezimirajte dugačka dokumenta.
Otkako je prethodnik GPT-4 ChatGPT objavljen prošle godine, konkurentske kompanije su požurile da lansiraju slične proizvode.
U otvorenom pismu se kaže da sistemi veštačke inteligencije sa „ljudsko-konkurentskom inteligencijom“ predstavljaju duboke rizike za čovečanstvo, citirajući 12 istraživanja stručnjaka, uključujući univerzitetske akademike, kao i sadašnje i bivše zaposlene u OpenAI, Guglu (GOOGL.O) i njegovoj podružnici DeepMind.
Grupe civilnog društva u SAD i EU su od tada pritiskale zakonodavce da obuzdaju istraživanje OpenAI. OpenAI nije odmah odgovorio na zahteve za komentar.
Kritičari su optužili Institut za budućnost života (FLI), organizaciju koja stoji iza pisma koje prvenstveno finansira Musk fondacija, da daje prednost zamišljenim apokaliptičnim scenarijima u odnosu na neposredniju zabrinutost u vezi sa veštačkom inteligencijom, kao što su rasističke ili seksističke predrasude koje se programiraju u mašine.
Među citiranim istraživanjima je i „O opasnostima stohastičkih papagaja“, dobro poznati rad čiji je koautor Margaret Mičel, koja je prethodno nadgledala etičko istraživanje veštačke inteligencije u Guglu.
Mičel, sada glavni etički naučnik u kompaniji za veštačku inteligenciju Hugging Face, kritikovao je pismo, rekavši Rojtersu da je nejasno šta se smatra „moćnijim od GPT4“.
„Tretirajući mnoge sumnjive ideje kao date, pismo potvrđuje skup prioriteta i narativ o veštačkoj inteligenciji koji koristi pristalicama FLI-a“, rekla je ona. „Ignorisanje aktivnih šteta trenutno je privilegija koju neki od nas nemaju.
Njeni koautori Timnit Gebru i Emili M. Bender kritikovali su pismo na Tviteru, pri čemu je potonja označila neke od svojih tvrdnji kao „nezavisne“.
Predsednik FLI Maks Tegmark rekao je za Rojters da kampanja nije bila pokušaj da se ometa korporativna prednost OpenAI.
„To je prilično urnebesno. Video sam ljude kako govore: ‘Elon Musk pokušava da uspori konkurenciju'“, rekao je on i dodao da Musk nije imao nikakvu ulogu u sastavljanju pisma. „Ne radi se o jednoj kompaniji.
Širi Dori-Hakoen, docent na Univerzitetu u Konektikatu, takođe se osporavala što se njen rad pominje u pismu. Prošle godine je bila koautor istraživačkog rada u kojem se tvrdi da široko rasprostranjena upotreba veštačke inteligencije već predstavlja ozbiljne rizike.
Njeno istraživanje je tvrdilo da današnja upotreba AI sistema može uticati na donošenje odluka u vezi sa klimatskim promenama, nuklearnim ratom i drugim egzistencijalnim pretnjama.
Ona je za Rojters rekla: „AI ne treba da dosegne inteligenciju na nivou čoveka da bi pogoršala te rizike.
„Postoje neegzistencijalni rizici koji su zaista, zaista važni, ali ne dobijaju istu vrstu pažnje na holivudskom nivou.
Upitan da prokomentariše kritike, Tegmark iz FLI je rekao da i kratkoročne i dugoročne rizike veštačke inteligencije treba shvatiti ozbiljno.
„Ako nekoga citiramo, to samo znači da tvrdimo da podržava tu rečenicu. To ne znači da podržava pismo, ili da podržavamo sve što oni misle“, rekao je Rojtersu.
Den Hendriks, direktor Centra za bezbednost veštačke inteligencije sa sedištem u Kaliforniji, koji je takođe citiran u pismu, ostao je pri njegovom sadržaju, rekavši Rojtersu da je razumno razmotriti događaje crnog labuda – one koji izgledaju malo verovatni, ali bi imali razorne posledice.
U otvorenom pismu se takođe upozorava da bi se generativni alati veštačke inteligencije mogli koristiti za preplavljivanje interneta „propagandom i neistinom“.
Dori-Hakoen je rekla da je „prilično bogato“ što ga je Musk potpisao, navodeći prijavljen porast dezinformacija na Tviteru nakon njegovog preuzimanja platforme, što su dokumentovali grupa civilnog društva Common Cause i drugi.
Tviter će uskoro pokrenuti novu strukturu naknada za pristup svojim istraživačkim podacima, što bi potencijalno ometalo istraživanje na ovu temu.
„To je direktno uticalo na rad moje laboratorije, kao i na rad drugih koji proučavaju pogrešne i dezinformacije“, rekla je Dori-Hakoen. „Operiramo sa jednom rukom vezanom iza leđa.“
Mask i Tviter nisu odmah odgovorili na zahteve za komentar.
