U digitalnom svetu gde se svake minute milioni postova, fotografija i video snimaka preplavljuju internet, borba protiv štetnog ili nelegalnog sadržaja, poput promovisanja terorizma i nasilja, postaje sve izazovnija. Automatizovani alati, uključujući veštačku inteligenciju (AI), postaju neophodni u ovom procesu, ali i oni imaju svoja ograničenja.
Zakoni i propisi poput onlajn propisa o terorističkom sadržaju EU podstakli su razvoj alata za identifikaciju i uklanjanje terorističkog sadržaja na mreži. Ovi alati se mogu podeliti u dve osnovne vrste: oni koji se bave ponašanjem naloga i poruka, i oni koji analiziraju sam sadržaj.
Prva vrsta alata fokusira se na karakteristike naloga i poruka, kao što su starost naloga, korišćenje heštagova i obim objavljivanja. Ova analiza ponašanja je slična otkrivanju neželjene pošte i korisna je za identifikaciju brzog širenja sadržaja na mreži.
Drugi tip alata se bavi analizom samog sadržaja, kao što su jezičke karakteristike, upotreba reči, slike i veb adrese. Automatski alati zasnovani na sadržaju koriste poređenje novog sadržaja sa postojećom bazom podataka terorističkih sadržaja. Međutim, izazov je identifikovati varijacije i nove verzije ovih sadržaja koje terorističke grupe mogu proizvesti kako bi izbegle detekciju.
Nakon terorističkog napada u Krajstčerču 2019. godine, gde je na stotine verzija video snimka napada bilo u opticaju, alati su se suočili s izazovom detektovanja i uklanjanja ovih različitih varijacija sadržaja.
Da bi se prevazišao ovaj izazov, alati koriste perceptivno heširanje umesto kriptografskog. Perceptivno heširanje fokusira se na sličnost sadržaja, što ih čini otpornijim na male izmene, ali istovremeno omogućava detekciju sličnih sadržaja. Ovo je ključno za efikasno otkrivanje i uklanjanje terorističkog sadržaja na društvenim mrežama.
Uprkos napretku u razvoju ovih alata, dalja istraživanja i unapređenja su neophodna kako bi se efikasno suzbio teroristički sadržaj na internetu.
