Veštačka inteligencija (AI) je napredovala zapanjujućim tempom u poslednjih nekoliko godina. Neki naučnici sada gledaju na razvoj veštačke superinteligencije (ASI) – oblika veštačke inteligencije koji ne samo da bi nadmašio ljudsku inteligenciju, već i ne bi bio vezan brzinom učenja ljudi.
Ali šta ako ova prekretnica nije samo izvanredno dostignuće? Šta ako ona takođe predstavlja strašno usko grlo u razvoju svih civilizacija, toliko izazovno da onemogućava njihov dugoročni opstanak?
Ova ideja je u srcu istraživačkog rada koji sam nedavno objavio u Acta Astronautica. Da li bi veštačka inteligencija mogla da bude „veliki filter“ univerzuma – prag koji je toliko teško prevazići da sprečava većinu života da evoluira u svemirske civilizacije?
Ovo je koncept koji bi mogao da objasni zašto potraga za vanzemaljskom inteligencijom (Seti) tek treba da otkrije potpise naprednih tehničkih civilizacija na drugim mestima u galaksiji.
Hipoteza velikog filtera je na kraju predloženo rešenje Fermijevog paradoksa. Ovo postavlja pitanje zašto, u svemiru koji je dovoljno ogroman i drevni da ugosti milijarde potencijalno nastanjivih planeta, nismo otkrili nikakve znake vanzemaljskih civilizacija.
Hipoteza sugeriše da postoje nepremostive prepreke u evolucionoj vremenskoj liniji civilizacija koje ih sprečavaju da se razviju u svemirske entitete.
Verujem da bi pojava ASI mogla biti takav filter. Brzi napredak veštačke inteligencije, koji potencijalno vodi ka ASI, može se ukrstiti sa kritičnom fazom u razvoju civilizacije – tranzicijom sa vrste na jednoj planeti u višeplanetarnu.
Ovo je mesto gde bi mnoge civilizacije mogle da posrnu, pri čemu AI napreduje mnogo brže od naše sposobnosti da ga kontrolišemo ili da održivo istražujemo i naseljavamo naš Sunčev sistem.
Izazov sa AI, a posebno ASI, leži u njenoj autonomnoj, samopojačavajućoj i poboljšanoj prirodi. Poseduje potencijal da unapredi sopstvene sposobnosti brzinom koja prevazilazi naše sopstvene evolucione vremenske okvire bez veštačke inteligencije.
Potencijal da nešto krene naopako je ogroman, što dovodi do propasti i bioloških i AI civilizacija pre nego što ikada dobiju priliku da postanu multiplanetarne.
Na primer, ako se nacije sve više oslanjaju na autonomne AI sisteme koji se takmiče jedni protiv drugih i ustupaju im moć, vojne sposobnosti bi mogle da se koriste za ubijanje i uništavanje u razmerama bez presedana. Ovo bi potencijalno moglo dovesti do uništenja cele naše civilizacije, uključujući i same sisteme veštačke inteligencije.
U ovom scenariju, procenjujem da bi tipična dugovečnost tehnološke civilizacije mogla biti manja od 100 godina. To je otprilike vreme između mogućnosti primanja i emitovanja signala između zvezda (1960) i procenjenog pojavljivanja ASI (2040) na Zemlji. Ovo je alarmantno kratko kada se postavi u odnosu na kosmičku vremensku skalu od milijardi godina.
Ova procena, kada se uključi u optimistične verzije Drejkove jednačine – koja pokušava da proceni broj aktivnih, komunikativnih vanzemaljskih civilizacija u Mlečnom putu – sugeriše da, u bilo kom trenutku, postoji samo nekoliko inteligentnih civilizacija. Štaviše, kao i mi, njihove relativno skromne tehnološke aktivnosti mogu ih učiniti prilično izazovnim za otkrivanje.
Ovo istraživanje nije samo opomena o potencijalnoj propasti. Ona služi kao poziv za buđenje za čovečanstvo da uspostavi čvrste regulatorne okvire koji će voditi razvoj veštačke inteligencije, uključujući vojne sisteme.
Ovde se ne radi samo o sprečavanju zlonamerne upotrebe veštačke inteligencije na Zemlji; takođe se radi o tome da se evolucija AI uskladi sa dugoročnim opstankom naše vrste. To sugeriše da moramo da uložimo više resursa da postanemo multiplanetarno društvo što je pre moguće – cilj koji je ostao neaktivan od burnih dana projekta Apolo, ali je u poslednje vreme ponovo zapaljen napretkom privatnih kompanija.
Kao što je primetio istoričar Juval Noa Harari, ništa u istoriji nas nije pripremilo za uticaj uvođenja nesvesnih, super-inteligentnih entiteta na našu planetu. Nedavno su implikacije autonomnog donošenja odluka u vezi sa veštačkom inteligencijom dovele do poziva istaknutih lidera u ovoj oblasti na moratorijum na razvoj veštačke inteligencije, sve dok se ne uvede odgovoran oblik kontrole i regulacije.
Ali čak i kada bi se svaka zemlja složila da poštuje stroga pravila i propise, biće teško obuzdati odmetničke organizacije.
Integracija autonomne veštačke inteligencije u vojne odbrambene sisteme mora da bude oblast od posebnog značaja. Već postoje dokazi da će se ljudi dobrovoljno odreći značajne moći sve sposobnijim sistemima, jer mogu da obavljaju korisne zadatke mnogo brže i efikasnije bez ljudske intervencije.
Vlade stoga oklijevaju da regulišu ovu oblast s obzirom na strateške prednosti koje nudi AI, kao što je nedavno i razorno pokazano u Gazi.
To znači da se već opasno približavamo provaliji gde autonomno oružje deluje izvan etičkih granica i zaobilazi međunarodno pravo.
U takvom svetu, predaja moći sistemima veštačke inteligencije u cilju dobijanja taktičke prednosti može nenamerno da pokrene lanac brzo eskalirajućih, veoma destruktivnih događaja. U tren oka, kolektivna inteligencija naše planete mogla bi biti izbrisana.
Čovečanstvo se nalazi na ključnoj tački u svojoj tehnološkoj putanji. Naše akcije sada mogu da odrede da li ćemo postati trajna međuzvezdana civilizacija ili ćemo podleći izazovima koje postavljaju naše sopstvene kreacije.
Korišćenje Setija kao sočiva kroz koje možemo da ispitamo naš budući razvoj dodaje novu dimenziju diskusiji o budućnosti veštačke inteligencije. Na svima nama je da obezbedimo da kada posegnemo za zvezdama, to ne učinimo kao opomena za druge civilizacije, već kao svetionik nade – vrsta koja je naučila da napreduje zajedno sa veštačkom inteligencijom.
