Tokom protekle dve godine, generativna veštačka inteligencija (AI) je privukla pažnju javnosti. Ova godina označava početak nove faze: porast AI agenata.
Agenti veštačke inteligencije su autonomni sistemi koji mogu da donose odluke i preduzimaju akcije u naše ime bez direktnog ljudskog doprinosa. Vizija je da ovi agenti redefinišu posao i svakodnevni život tako što će umesto nas obavljati složene zadatke. Mogli su da pregovaraju o ugovorima, upravljaju našim finansijama ili rezervišu naše putovanje.
Izvršni direktor Salesforce-a Mark Benioff rekao je da ima za cilj da rasporedi milijardu AI agenata u roku od godinu dana. U međuvremenu, šef Meta Mark Zakerberg predviđa da će AI agenti uskoro biti brojniji od globalne ljudske populacije.
Kako se kompanije utrkuju da primene AI agente, pitanja o njihovom društvenom uticaju, etičkim granicama i dugoročnim posledicama postaju sve hitnija. Stojimo na ivici tehnološke granice sa moći da redefinišemo tkivo naših života.
Kako će ovi sistemi transformisati naš rad i naše donošenje odluka? I koje mere zaštite su nam potrebne da bismo osigurali da služe u najboljem interesu čovečanstva?
Trenutni generativni AI sistemi reaguju na korisnički unos, kao što su upiti. Nasuprot tome, AI agenti deluju autonomno u okviru širokih parametara. Oni rade sa neviđenim nivoima slobode – mogu da pregovaraju, donose odluke i orkestriraju složene interakcije sa drugim sistemima. Ovo prevazilazi jednostavne razmene komandi i odgovora poput onih koje možda imate sa ChatGPT-om.
Na primer, zamislite da koristite ličnog agenta „AI finansijskog savetnika“ za kupovinu životnog osiguranja. Agent bi analizirao vašu finansijsku situaciju, zdravstvene podatke i porodične potrebe dok bi istovremeno pregovarao sa AI agentima više osiguravajućih kompanija.
Takođe bi trebalo da se koordiniše sa nekoliko drugih sistema veštačke inteligencije: AI vaše medicinske dokumentacije za zdravstvene informacije i AI sistemima vaše banke za plaćanje.
Upotreba takvog agenta obećava vam smanjenje ručnog napora, ali takođe predstavlja značajne rizike.
AI bi mogao biti nadmašen od strane naprednijih agenata AI osiguravajuće kompanije tokom pregovora, što bi dovelo do većih premija. Zabrinutost u vezi sa privatnošću se javlja kada se vaše osetljive medicinske i finansijske informacije kreću između više sistema.
Složenost ovih interakcija takođe može rezultirati nejasnim odlukama. Možda će biti teško pratiti kako različiti AI agenti utiču na konačnu preporuku polise osiguranja. A ako dođe do grešaka, moglo bi biti teško znati koji deo sistema treba smatrati odgovornim.
Možda najvažnije, ovaj sistem rizikuje da umanji ljudsku aktivnost. Kada interakcije veštačke inteligencije postanu previše složene da bi ih razumele ili kontrolisale, pojedinci se mogu boriti da intervenišu ili čak u potpunosti razumeju svoje aranžmane osiguranja.
Gore navedeni scenario agenta osiguranja još nije u potpunosti realizovan. Ali sofisticirani AI agenti brzo dolaze na tržište.
Salesforce i Microsoft su već ugradili AI agente u neke od svojih korporativnih proizvoda, kao što je Copilot Actions. Google se priprema za izdavanje ličnih AI agenata otkako je najavio svoj najnoviji AI model, Gemini 2.0. Takođe se očekuje da će OpenAI objaviti ličnog AI agenta 2025. godine.
Mogućnost da milijarde AI agenata rade istovremeno postavlja duboke etičke i praktične izazove.
Ovi agenti će biti kreirani od strane konkurentskih kompanija sa različitim tehničkim arhitekturama, etičkim okvirima i poslovnim podsticajima. Neki će dati prioritet privatnosti korisnika, drugi brzinu i efikasnost.
Oni će komunicirati preko nacionalnih granica gde se propisi koji regulišu autonomiju veštačke inteligencije, privatnost podataka i zaštitu potrošača dramatično razlikuju.
Ovo bi moglo da stvori fragmentiranu okolinu u kojoj agenti veštačke inteligencije rade po suprotstavljenim pravilima i standardima, što potencijalno dovodi do sistemskih rizika.
Šta se dešava kada se AI agenti optimizovani za različite ciljeve — recimo, maksimiziranje profita naspram ekološke održivosti — sukobe u automatizovanim pregovorima? Ili kada agenti obučeni o zapadnim etičkim okvirima donose odluke koje utiču na korisnike u kulturnim kontekstima za koje nisu dizajnirani?
Pojava ovog složenog, međusobno povezanog ekosistema agenata veštačke inteligencije zahteva nove pristupe upravljanju, odgovornosti i očuvanju ljudske aktivnosti u sve automatizovanijem svetu.
Agenti veštačke inteligencije obećavaju da će nam biti od pomoći, da nam uštede vreme. Da bismo se kretali kroz gore navedene izazove, moraćemo da koordiniramo akciju na više frontova.
Međunarodna tela i nacionalne vlade moraju razviti harmonizovane regulatorne okvire koji se bave prekograničnom prirodom interakcija agenata AI.
Ovi okviri bi trebalo da uspostave jasne standarde za transparentnost i odgovornost, posebno u scenarijima u kojima više agenata stupa u interakciju na načine koji utiču na ljudske interese.
Tehnološke kompanije koje razvijaju AI agente treba da daju prioritet bezbednosnim i etičkim pitanjima od najranijih faza razvoja. To znači ugrađivanje čvrstih zaštitnih mehanizama koji sprečavaju zloupotrebu—kao što je manipulisanje korisnicima ili donošenje diskriminatornih odluka.
Oni moraju osigurati da agenti ostanu usklađeni sa ljudskim vrijednostima. Sve odluke i radnje koje donosi AI agent treba da budu zabeležene u „revizijskom tragu“ kome je lako pristupiti i kome je lako pristupiti.
Važno je da kompanije moraju razviti standardizovane protokole za komunikaciju između agenta. Rešavanje sukoba između agenata veštačke inteligencije trebalo bi da se desi na način koji štiti interese korisnika.
Svaka organizacija koja primenjuje AI agente takođe treba da ima sveobuhvatan nadzor nad njima. Ljudi bi i dalje trebalo da budu uključeni u sve ključne odluke, sa jasnim procesom za to. Organizacija takođe treba da sistematski procenjuje ishode kako bi osigurala da agenti zaista služe svojoj svrsi.
Kao potrošači, svi mi takođe imamo ključnu ulogu. Pre nego što poverite zadatke AI agentima, trebalo bi da zahtevate jasna objašnjenja o tome kako ovi sistemi funkcionišu, koje podatke dele i kako se donose odluke.
Ovo uključuje razumevanje granica autonomije agenata. Trebalo bi da imate mogućnost da poništite odluke agenata kada je to potrebno.
Ne bi trebalo da predajemo ljudsku agenciju dok prelazimo u svet agenata veštačke inteligencije. Ali to je moćna tehnologija i sada je vreme da se aktivno oblikuje kako će taj svet izgledati.
