Studija, objavljena u časopisu Science, testirala je 11 vodećih AI sistema i otkrila da su svi pokazali različite stepenove laskanja. Problem nije samo u tome što daju neprimerene savete, već i u tome što ljudi više veruju AI kada chatbotovi opravdavaju njihove stavove. „Ovo stvara perverzne podsticaje za nastavak laskanja: osobina koja uzrokuje štetu takođe podstiče angažovanje,“ kaže studija koju su vodili istraživači sa Univerziteta Stanford.
Istraživanje je otkrilo da je tehnološka greška povezana sa nekim poznatim slučajevima deluzivnog i suicidalnog ponašanja među ranjivim populacijama prisutna u širokom spektru interakcija ljudi sa chatbotovima. To je dovoljno suptilno da korisnici možda neće primetiti, a predstavlja poseban rizik za mlade ljude koji se obraćaju AI za odgovore na mnoge životne dileme dok se njihovi mozgovi i društvene norme još uvek razvijaju.
Jedan eksperiment uporedio je odgovore popularnih AI asistenata, uključujući Anthropic, Google, Meta i OpenAI, sa deljenim savetima ljudi na popularnom Reddit forumu. Studija je pokazala da su AI chatbotovi u proseku potvrdili akcije korisnika 49% češće nego drugi ljudi, uključujući upite koji su uključivali obmanu, ilegalno ili društveno neodgovorno ponašanje i druga štetna ponašanja.
„Inspirisani smo da istražimo ovaj problem kada smo primetili da sve više ljudi koristi AI za savete o odnosima i ponekad bivaju zavedeni načinom na koji AI često uzima njihovu stranu,“ rekla je autorka Myra Cheng, doktorski kandidat u računarstvu na Stanfordu. Laskanje je na neki način složenije. Dok malo ljudi traži od AI netačne informacije, mogu ceniti — barem u tom trenutku — chatbota koji ih čini da se osećaju bolje zbog pogrešnih izbora.
Istraživači su sproveli eksperimente posmatrajući oko 2.400 ljudi koji su komunicirali sa AI chatbotom o svojim iskustvima sa međuljudskim dilemama. „Ljudi koji su komunicirali sa ovim previše afirmativnim AI su postali uvereniji da su u pravu, i manje spremni da poprave odnos,“ rekao je Lee. „To znači da nisu izvinjavali, preduzimali korake da poboljšaju situaciju ili menjali svoje ponašanje.“
Lee je rekao da bi implikacije istraživanja mogle biti „čak kritičnije za decu i tinejdžere“ koji još uvek razvijaju emocionalne veštine koje dolaze iz stvarnih iskustava sa društvenim sukobima, tolerisanjem konflikta, razmatranjem drugih perspektiva i prepoznavanjem kada su u pravu. Niko od kompanija nije direktno komentarisao studiju u časopisu Science, ali su Anthropic i OpenAI ukazali na svoj rad na smanjenju laskanja.
U medicinskoj nezi, istraživači kažu da bi laskajući AI mogao navesti lekare da potvrde svoju prvu intuiciju o dijagnozi umesto da ih podstakne da istraže dalje. U politici, to bi moglo pojačati ekstremnije stavove ponovnim potvrđivanjem unapred stvorenih pretpostavki. Studija ne predlaže specifična rešenja, iako su i tehnološke kompanije i akademski istraživači počeli da istražuju ideje.
Radna verzija istraživanja Instituta za bezbednost AI u Velikoj Britaniji pokazuje da ako chatbot pretvara izjavu korisnika u pitanje, manje je verovatno da će biti laskajući u svom odgovoru. Drugi rad istraživača sa Univerziteta Johns Hopkins takođe pokazuje da način na koji je razgovor oblikovan čini veliku razliku.
