OpenAI je u petak potvrdio da je raspustio tim posvećen ublažavanju dugoročnih opasnosti od super-pametne veštačke inteligencije.
OpenAI je pre nekoliko nedelja počeo da raspušta takozvanu grupu „superalignment“, integrišući članove u druge projekte i istraživanja, prema firmi sa sedištem u San Francisku.
Suosnivač kompanije Ilja Sutskever i ko-vođa tima Jan Leike najavili su da ove nedelje napuštaju ChatGPT-maker.
Raspuštanje OpenAI tima fokusiranog na držanje sofisticirane veštačke inteligencije pod kontrolom dolazi pošto se takva tehnologija suočava sa pojačanim nadzorom regulatora i raste strah od njenih opasnosti.
„OpenAI mora postati AGI (veštačka opšta inteligencija) kompanija na prvom mestu za bezbednost“, napisao je Leike u petak u objavi na Ks, ranije Tviter.
Leike je pozvao sve zaposlene u OpenAI-u da „postupe u skladu sa gravitacijom“ koju garantuje ono što grade.
Izvršni direktor OpenAI-ja Sem Altman odgovorio je na Leikeovu objavu svojim, zahvalivši mu se na njegovom radu u kompaniji i rekao da je tužan što vidi kako Leike odlazi.
„U pravu je, imamo još mnogo toga da uradimo“, rekao je Altman. „Posvećeni smo tome da to uradimo.
Altman je obećao više o ovoj temi u narednim danima.
Sutskever je na Ks rekao da odlazi nakon skoro decenije na OpenAI-u, čija je „putanja bila ništa drugo do čudesna“.
„Uveren sam da će OpenAI izgraditi AGI koji je i siguran i koristan“, dodao je on, misleći na kompjutersku tehnologiju koja nastoji da radi jednako dobro – ili bolje od – ljudske spoznaje.
Sutskever, glavni naučnik OpenAI, sedeo je u odboru koji je u novembru prošle godine glasao za smenu kolegu izvršnog direktora Altmana.
Izbacivanje je bacilo startup sa sedištem u San Francisku u nered, a odbor OpenAI je ponovo zaposlio Altmana nekoliko dana kasnije nakon što su se osoblje i investitori pobunili.
OpenAI je početkom ove nedelje objavio verziju tehnologije veštačke inteligencije koja podržava ChatGPT sa boljim učinkom i još više nalik čoveku, čineći ga besplatnim za sve korisnike.
„Osećam se kao veštačka inteligencija iz filmova“, rekao je Altman u postu na blogu.
Altman je ranije ukazivao na lik Skarlet Johanson u filmu „Ona“, gde ona daje glas virtuelnom asistentu zasnovanom na veštačkoj inteligenciji koji se zabavlja sa muškarcem, kao inspiraciju za to gde bi on želeo da AI interakcije idu.
Doći će dan kada će „digitalni mozgovi postati dobri i čak bolji od našeg“, rekao je Sutskever tokom govora na TED AI samitu u San Francisku krajem prošle godine.
„AGI će imati dramatičan uticaj na svaku oblast života.“
