Ranije ove godine, dogodio se incident u Hong Kongu gde je finansijski radnik bio žrtva prevare pomoću deepfake tehnologije. Prevaranti su se predstavili kao glavni finansijski direktor kompanije putem video konferencijskog poziva i uspeli da prevarom izmame 25 miliona dolara od radnika. Ovaj slučaj je samo jedan od mnogih gde generativna veštačka inteligencija zavarava ljude, a sve češće se koristi od pojave ChatGPT tehnologije 2022. godine.
Generativni sistemi veštačke inteligencije zasnovani na jezičkim modelima mogu proizvoditi tekst koji podseća na ljudski, ali im nedostaje suštinsko međusobno razumevanje koje je ključno za ljudske interakcije. Ipak, ljudi često pridaju ljudske osobine i karakteristike mašinama s kojima komuniciraju, što je fenomen koji je postao još izraženiji sa napretkom generativne veštačke inteligencije.
Naučnici ističu da postoji razlika između formalne lingvističke kompetencije, koja podrazumeva poznavanje jezičkih pravila i obrazaca, i funkcionalne lingvističke kompetencije, koja se odnosi na praktičnu primenu jezika u stvarnim situacijama. Samo proizvođenje ispravnih odgovora nije dovoljno; oni moraju biti pravilno primenjeni u odgovarajućem kontekstu.
U interakciji sa generativnim AI chatbotovima, ljudi često pridaju veliku važnost sposobnosti ovih sistema da koriste jezik, ali ključna komponenta je kako ljudi reaguju na ovu tehnologiju tokom interakcije. Konverzacijske rutine i očekivanja variraju u različitim kulturama, a generativni AI chatbotovi često ispunjavaju kriterijume kvantiteta, relevantnosti i jasnoće, ali često ne uspevaju u pružanju tačnih informacija.
Suština uspeha generativne veštačke inteligencije leži u Griceovoj teoriji koja tvrdi da će svi učesnici u komunikaciji slediti određene maksime i pretpostaviti da to isto čine i drugi. Ljudska potreba za saradnjom i instinktivna privlačnost interakciji kroz razgovor igraju ključnu ulogu u tome zašto generativni AI chatbotovi imaju privlačnost za ljude.
Grajs je naglasio važnost napora potrebnih da bi se promenile ustaljene navike u komunikaciji. Stoga, važno je biti oprezan prilikom interakcije sa generativnom veštačkom inteligencijom i ne dozvoliti da potreba za razgovornom saradnjom nadvlada svest o tome da je u pitanju samo jezički model.
