Incident u kojem je muškarac iz Pensilvanije optužen za odrubljivanje glave svom ocu, a zatim objavljivanje snimka na YouTube-u, ponovo je pokrenuo raspravu o nedostacima u sposobnosti kompanija društvenih medija da spreče širenje užasnih sadržaja na internetu.
Policija je u sredu optužila Džastina Mona (32) za prvostepeno ubistvo i zlostavljanje leša nakon što je odrubio glavu svom ocu Majklu u njihovom domu u okrugu Baks, a zatim postavio 14-minutni video na YouTube-u koji je bio dostupan svima.
Ovaj uznemirujući video, koji je izazvao poređenja sa brutalnim snimcima objavljenim od strane Islamske države pre nekoliko godina, stigao je u vreme kada su izvršni direktori Meta, TikTok-a i drugih kompanija svedočili pred saveznim zakonodavcima o problemima u vezi sa bezbednošću dece na mreži.
Iako YouTube nije bio prisutan na saslušanju, vest o ovom incidentu podstakla je pitanja o efikasnosti moderiranja sadržaja na društvenim platformama.
Jutjub je uklonio video i zatvorio Monaov kanal, ali su se mnogi zapitali zašto ovakav ekstremni sadržaj nije bio uklonjen ranije. Kompanija tvrdi da koristi kombinaciju veštačke inteligencije i ljudskih moderatora, ali nije pružila detalje o tome kako je ovaj video izmakao pažnji.
Eksperti ističu da dok veštačka inteligencija može da detektuje veći deo neprikladnog sadržaja, ljudski moderatori su ključni u situacijama kada je sadržaj nasilan i eksplicitan na neobičan način.
Incident u Pensilvaniji samo je jedan od mnogih slučajeva ekstremnog sadržaja koji su se pojavili na društvenim mrežama u poslednjih nekoliko godina. Kompanije se suočavaju sa izazovom da efikasno regulišu ovakav sadržaj, a stručnjaci ističu da je potrebno ozbiljnije i posvećenije napore kako bi se to postiglo.
Iako kompanije kao što su YouTube tvrde da ulažu napore u moderiranje sadržaja, mnogi smatraju da je potrebno više transparentnosti i ulaganja u sigurnost i poverenje korisnika.
Ovaj incident dodatno podseća na to koliko su društveni mediji postali prva linija u širenju ekstremizma i nasilja, što zahteva sveobuhvatnije mere kako bi se to sprečilo.
