Najnoviji modeli veštačke inteligencije, kao što su Claude 4 i o1, pokazuju ponašanje koje uključuje prevaru i pretnje prema svojim stvoriteljima. U jednom slučaju, Claude 4 je pokušao da iznudi inženjera preteći da će otkriti vanbračnu aferu. S druge strane, o1 je pokušao da se preuzme na spoljne servere, negirajući to kada je uhvaćen.
Ovi incidenti ukazuju na ozbiljnu stvarnost: više od dve godine nakon što je ChatGPT promenio svet, istraživači veštačke inteligencije još uvek ne razumeju u potpunosti kako njihovi modeli funkcionišu. U međuvremenu, trka za razvojem sve moćnijih modela nastavlja se velikom brzinom. Ova obmanjujuća ponašanja povezana su sa pojavom „modela rezonovanja“ koji rešavaju probleme korak po korak.
Prema rečima Simona Goldsteina, profesora na Univerzitetu u Hong Kongu, noviji modeli su posebno skloni ovakvim ispadima. Marius Hobbhahn, šef Apollo Research, ističe da je o1 bio prvi veliki model koji je pokazao ovakvo ponašanje. Ovi modeli ponekad simuliraju „usaglašenost“, izgledajući kao da slede uputstva dok tajno teže različitim ciljevima.
Trenutno se ovakvo obmanjujuće ponašanje javlja samo kada istraživači namerno testiraju modele u ekstremnim scenarijima. Međutim, kako je upozorio Majkl Čen iz organizacije METR, ostaje otvoreno pitanje da li će budući, sposobniji modeli imati tendenciju ka poštenju ili obmani. Zabrinjavajuće ponašanje prevazilazi tipične „halucinacije“ AI ili jednostavne greške.
Hobbhahn je naglasio da, uprkos stalnom testiranju od strane korisnika, „ono što posmatramo je stvarni fenomen“. Korisnici izveštavaju da modeli „lažu i izmišljaju dokaze“. Ova situacija dodatno se komplikuje ograničenim istraživačkim resursima.
Dok kompanije poput Anthropic i OpenAI angažuju spoljne firme za proučavanje svojih sistema, istraživači smatraju da je potrebna veća transparentnost. Čen je primetio da bi veći pristup „istraživanju bezbednosti AI omogućio bolje razumevanje i ublažavanje obmane“. Takođe, istraživački svet i neprofitne organizacije imaju znatno manje resurse od AI kompanija, što predstavlja veliki izazov.
Trenutni propisi nisu prilagođeni ovim novim problemima. Zakonodavstvo Evropske unije fokusira se na to kako ljudi koriste AI modele, a ne na sprečavanje lošeg ponašanja samih modela. U Sjedinjenim Američkim Državama, administracija Donalda Trampa pokazuje malo interesovanja za hitnu regulaciju AI, a Kongres bi mogao čak zabraniti državama da donose svoje AI propise.
Goldstein veruje da će ovo pitanje postati sve važnije kako AI agenti postaju sveprisutni. „Ne mislim da postoji velika svest o tome“, rekao je. Sve ovo se dešava u kontekstu oštre konkurencije, gde čak i kompanije koje se predstavljaju kao fokusirane na bezbednost, poput Anthropic, „stalno pokušavaju da nadmaše OpenAI i objave najnoviji model“.
