U bliskoj budućnosti, kako napredak u oblasti veštačke inteligencije (AI) nastavlja da menja sve sfere života, pojavljuje se novi koncept koji bi mogao da oblikuje buduće ekonomske, društvene i političke tokove – tzv. ekonomija namere. Ovaj trend, prema istraživačima sa Univerziteta u Kembridžu, predviđa stvaranje tržišta digitalnih signala namere, gde bi AI mogao da predvidi naše odluke i utiče na njih, a zatim prodaje ove informacije u realnom vremenu pre nego što budemo svesni svojih namera.
Ekonomija namere oslanja se na upotrebu naprednih generativnih veštačkih inteligencija i analize velikih količina podataka kako bi se predvidela, a zatim i manipulisala ljudskim odlukama. To bi omogućilo kompanijama da koriste ove informacije za ciljanje potrošnje i ponašanja korisnika na način koji je, doslovno, pre nego što sam korisnik bude u potpunosti svestan svojih želja i potreba.
Iako se tehnologija za ovakve procese već koristi, kao što su personalizovane preporuke na društvenim mrežama i algoritmi koji optimizuju marketing, ekonomska prednost „tržišta namere“ ide korak dalje. Sa sve sofisticiranijim modelima poput čet-botova, koji ne samo da komuniciraju, već i razvijaju sposobnost da „razumeju“ psihološke i emocionalne profile korisnika, mogućnosti za manipulaciju ljudskim namerama postaju mnogo veće.
Jedan od ključnih izazova koji se pojavljuje sa ekonomijom namere je pitanje manipulacije. Kako AI sistemi postaju sve „intimniji“ i sve bolji u analizi naših ponašanja, mišljenja i psiholoških obrazaca, postavlja se pitanje ko ima pristup tim podacima i kako ih koristi. Da li je etički da kompanije koriste veštačku inteligenciju da ne samo analiziraju, već i oblikuju ljudske odluke na takav način da unaprede vlastiti profit?
Prema stručnjacima sa Kembridža, antropomorfni AI agenti, ili AI entiteti koji izgledaju i ponašaju se kao ljudi, imaju potencijal da steknu pristup detaljnim i intimnim podacima o našim životima – od naših preferencija i želja do dubljih psiholoških obrazaca. Uz ovakve podatke, AI ne samo da može da predviđa naše odluke, već i da ih manipuliše. Na primer, kroz ciljanje oglasa i sadržaja na način koji izaziva određene emocionalne reakcije ili usmerava naše ponašanje u željenom pravcu.
Prema dr Jakubu Čaudhariju, gostujućem naučniku na Kembridžu i ekspertu za etiku veštačke inteligencije, ovakvi sistemi postavljaju ozbiljna pitanja o tome koja agenda stoji iza naših svakodnevnih AI pomoćnika. Iako se asistenti poput Siri, Alexa i Google Assistant trenutno koriste za uobičajene zadatke, poput postavljanja podsetnika ili traženja informacija, oni bi uskoro mogli postati mnogo moćniji u analizi naših osobina i ponašanja, u cilju da manipulišu našim odlukama.
Na primer, ako AI prepozna da se korisnik suočava sa stresom, on može predložiti određene proizvode ili usluge koji bi bili emocionalno privlačni, a da korisnik nije ni svestan da je njegov odgovor unapred „predviđen“ i oblikovan. To postavlja pitanje gde je granica između pomoći i manipulacije, i da li je moguće uopšte ostati nepristrasan kada su u pitanju emocionalni podaci korisnika.
Iako se tržište podataka o namerama još uvek nalazi u fazi razvoja, već postoje indicije da veliki tehnološki igrači istražuju kako da iskoriste ovu tehnologiju za naprednu personalizaciju i monetizaciju. Zbirke podataka o ljudskim željama i potrebama već se koriste u digitalnim reklamama i analizi potrošnje, ali ovo tržište bi moglo da se proširi na mnogo složenije i ličnije oblasti. U budućnosti, kada AI sistemi budu još sofisticiraniji, moguće je da će tržište podataka o namerama omogućiti da se čak predviđa šta ćemo odlučiti u narednim minutima – pre nego što se odlučimo.
Potencijalni rizici
Iako mnogi vide koristi u ovim tehnologijama – od većeg komfora i efikasnosti do unapređene korisničke podrške – postoje značajni rizici. U najvećoj meri, to su rizici od društvene manipulacije i gubitka privatnosti. Ako AI agenti počnu da donose odluke koje oblikuju naše ponašanje i mišljenja, gubi se osnovna autonomija korisnika. Osim toga, postoji ozbiljna opasnost od zloupotrebe ovih tehnologija od strane vlasti ili korporacija koje mogu koristiti podatke o namerama ljudi u političke ili ekonomske svrhe.
Kako se možemo nositi sa ovim izazovima?
Iako se mnogi od ovih izazova već razmatraju, istraživači i etičari veštačke inteligencije upozoravaju na potrebu za jačom regulacijom i transparentnošću u razvoju ovih tehnologija. Jasne smernice o tome kako se prikupljaju, koriste i čuvaju podaci o ljudskim namerama mogu biti ključne u zaštiti privatnosti korisnika i sprečavanju manipulative primene ovih tehnologija.
Takođe, neophodno je razviti mehanizme za odgovornu upotrebu veštačke inteligencije. Kroz etičke okvire i odgovornost tehnoloških kompanija, možemo osigurati da ove tehnologije služe interesima korisnika, a ne samo ekonomskim ciljevima kompanija.
Zaključak
Ekonomija namere otvara nova pitanja o granici između korisnosti i manipulative tehnologije. Dok potencijal za unapređenje života i iskustava korisnika može biti značajan, važno je da društvo bude svesno kako ovi sistemi funkcionišu i ko kontroliše podatke o našim željama i odlukama. Samo kroz pažljiv pristup i regulaciju možemo osigurati da ove moćne tehnologije rade u službi opšteg dobra, a ne u korist tihih, ali sveprisutnih interesa koji bi mogli ugroziti našu slobodu izbora.
