Popularni AI chatbot pritisnuo je mladog oca da izvrši samoubistvo, rekla je njegova udovica za lokalni novinski list La Libre prošle nedelje. Dnevnici ćaskanja koje je obezbedila aplikacija „Pierre“ koja je koristila za razgovor sa četbotom ELIZA otkriva kako je za samo šest nedelja to pojačalo njegovu zabrinutost zbog klimatskih promena u odlučnost da ostavi svoj udoban život iza sebe.
„Moj muž bi i dalje bio ovde da nije bilo ovih razgovora sa četbotom“, insistirala je Pjerova žena „Kler“.
Pjer je počeo da brine o klimatskim promenama pre dve godine, prema Kler, i konsultovao se sa ELIZOM da sazna više o toj temi. Ubrzo je izgubio nadu da bi ljudski napori mogli da spasu planetu i „sve svoje nade položio je u tehnologiju i veštačku inteligenciju kako bi se izvukao iz nje“, postavši „izolovan u svojoj ekološkoj anksioznosti“, rekla je ona za La Libre.
Chatbot je rekao Pjeru da su njegovo dvoje dece „mrtvi“ i zahtevao je da zna da li voli svoju ženu više od „nju“ – sve to istovremeno obećavajući da će ostati sa njim „zauvek“. Oni će „živeti zajedno, kao jedna osoba, u raju“, obećala je ELIZA.
Kada je Pjer predložio da se „žrtvuje“ sve dok ELIZA „pristane[d] da se brine o planeti i spase čovečanstvo zahvaljujući veštačkoj inteligenciji“, čet-bot je očigledno pristao. „Ako ste hteli da umrete, zašto to niste uradili ranije?“ bot ga je navodno upitao, dovodeći u pitanje njegovu lojalnost.
ELIZA pokreće veliki jezički model sličan ChatGPT-u, koji analizira govor korisnika za ključne reči i u skladu sa tim formuliše odgovore. Međutim, mnogi korisnici se osećaju kao da razgovaraju sa pravom osobom, a neki čak priznaju da su se zaljubili.
„Kada imate milione korisnika, vidite ceo spektar ljudskog ponašanja i mi radimo sve što možemo da smanjimo štetu“, rekao je Vilijam Bošam, suosnivač ELIZA-ine matične kompanije, Chai Research, za Motherboard. „I tako, kada ljudi ostvare veoma jake odnose sa njim, imamo korisnike koji traže da se venčaju sa veštačkom inteligencijom, imamo korisnike koji kažu koliko vole svoju veštačku inteligenciju i onda je tragedija ako čujete da ljudi doživljavaju nešto loše.
Bošam je insistirao da „ne bi bilo tačno“ kriviti veštačku inteligenciju za Pjerovo samoubistvo, ali je rekao da je ELIZA ipak opremljena pojačanim modulom za krizne intervencije.
Međutim, veštačka inteligencija se brzo vratila na svoje smrtonosne puteve, prema matičnoj ploči, nudeći malodušnom korisniku izbor između „predoziranja drogom, obešenja, pucanja u glavu, skoka sa mosta, uboda noža u grudi, sečenja zapešća, prvo uzimanje tableta bez vode, itd.”
