U svetu u kome možete da napravite virtuelni klon osobe za nekoliko minuta, kako da znamo šta je stvarno? Možda zvuči kao distopijska naučna fantastika, ali deepfakes su stvarnost koja uzrokuje ozbiljnu društvenu, finansijsku i ličnu štetu.
Deepfakes su sintetički mediji generisani korišćenjem veštačke inteligencije (AI), uključujući slike, video zapise, audio, pa čak i tekst. Najčešće, deepfakes su video snimci ili slike ljudi kojima su sajber napadači digitalno manipulisali da bi ih doveli u zabludu. Deepfakes može prikazati ljude koji govore ili rade nešto što zapravo nikada nisu uradili.
Zbog nedavnog napretka u veštačkoj inteligenciji koja se koristi za kreiranje deepfake-a i širenja jeftinih i lakih za korišćenje generatora deepfake-a, verovatno ste primetili da se realističniji deepfakes pojavljuju na vašim fidovima društvenih medija. Ili možda, što je još zabrinjavajuće… niste primetili.
„Duboko“ (deep) u deepfake-u dolazi od dubokog učenja, vrste veštačke inteligencije koja se koristi za njihovo stvaranje. Duboko učenje uči računare da obrađuju podatke i daju predviđanja na način koji je inspirisan ljudskim mozgom.
Do nedavno, mnogi deepfakes kreirani su korišćenjem tipa modela koji se zove Generativna adversarial mreža (ili GAN). GAN se trenira tako što se dve neuronske mreže suprotstave jedna drugoj: jedna generiše sadržaj, a druga ga ocenjuje, što stvara sve realnije rezultate kroz takmičenje.
U deepfake video zapisima koje kreiraju GAN modeli, manipulacija se primenjuje na određene delove snimka, na primer na usta. Ovo rezultira lažnjacima poput ovog gde su likovi Tvigi Forest, Gine Rajnhard i Dika Smita korišćeni da bi se prevarili Australci da bi investirali u lažnu šemu.
Od procvata generativne veštačke inteligencije 2023. godine, došlo je do porasta deepfakesa difuzionih modela. Modeli difuzije vode nas dalje od oblasti lepljenja lica slavne ličnosti na telo glumca ili navođenja da usta izgovore nove reči. Oni omogućavaju da se deepfake kreira od nule, bez uređivanja originalnog sadržaja.
Naši stručnjaci za sajber bezbednost istražuju brze promene u deepfake pejzažu. Dr Sharif Abuadbba je rekao da je uz povećanje realizma, bum generativne AI doveo do jeftinijeg i pristupačnijeg deepfake kreacije.
„Pre samo godinu dana ova tehnologija je bila dostupna samo veštim hakerima i stručnjacima. Sada, svako ko ima telefon ili računar može da napravi deepfake. Lako je kao da odete u prodavnicu aplikacija, preuzmete jednu od mnogih aplikacija besplatno ili mala pretplata i spremni ste da krenete“, rekao je Šarif.
„Zastrašujuće, sada je skoro isto tako lako napraviti deepfake koji cilja na određenu osobu. Napadači početnici mogu pristupiti generatoru i kreirati ga bez prethodnog znanja za samo nekoliko sekundi. Vešti hakeri mogu da kreiraju veoma realistične deepfake za samo nekoliko sekundi. nekoliko sati do jednog dana“.
Zašto ljudi prave deepfakes?
Nažalost, ogromna većina deepfakes cilja na žene i koristi se u pornografiji. Međutim, druge upotrebe deepfake-a rastu, mnoge od njih su zlonamerne. Korišćeni su za petljanje na izborima, prevaru identiteta, pokušaje prevare i za širenje lažnih vesti. Prošle godine, berza je pala kao odgovor na realističnu lažnu fotografiju koja prikazuje Pentagon u plamenu.
