„Jednom kada pošaljete tu fotografiju, ne možete da je vratite“, stoji u upozorenju tinejdžerima, često ignorišući realnost da mnogi tinejdžeri šalju eksplicitne slike sebe pod prinudom ili bez razumevanja posledica.
Nova alatka na mreži ima za cilj da vrati kontrolu tinejdžerima ili ljudima koji su nekada bili tinejdžeri i ukloni eksplicitne slike i video zapise o sebi sa interneta.
Alat pod nazivom Take It Down upravlja Nacionalni centar za nestalu i eksploatisanu decu, a delimično ga finansira Meta Platforms, vlasnik Fejsbuka i Instagrama.
Sajt omogućava svima da anonimno – i bez postavljanja stvarnih slika – kreiraju ono što je u suštini digitalni otisak slike. Ovaj otisak prsta (jedinstveni skup brojeva koji se zove „heš“) zatim ide u bazu podataka i tehnološke kompanije koje su pristale da učestvuju u projektu uklanjaju slike sa svojih usluga.
Sada, upozorenja. Platforme koje učestvuju su, od ponedeljka, Metin Fejsbuk i Instagram, Iubo, OnliFans i Pornhub, u vlasništvu Mindžika. Ako je slika na drugom sajtu, ili ako je poslata na šifrovanoj platformi kao što je VhatsApp, neće biti uklonjena.
Pored toga, ako neko izmeni originalnu sliku – na primer, iseče je, doda emodži ili je pretvori u mem – ona postaje nova slika i stoga joj je potreban novi heš. Slike koje su vizuelno slične—kao što je ista fotografija sa i bez Instagram filtera, imaće slične hešove, koji se razlikuju u samo jednom znaku.
„Take It Down“ je napravljen posebno za ljude koji imaju sliku za koju imaju razloga da veruju da je već negde na vebu ili da bi mogla biti“, rekao je Gavin Portnoj, portparol NCMEC-a. „Ti si tinejdžer i izlaziš sa nekim i deliš sliku. Ili te je neko iznudio i rekli su: ‘Ako mi ne daš sliku, ili drugu sliku o sebi, uradiću nešto zauzvrat.
Portnoj je rekao da će tinejdžerima biti ugodnije da odu na sajt nego da uključe policiju, koja ne bi bila anonimna, na primer.
„Tinejdžerima koji ne žele taj nivo uključenosti, oni samo žele da znaju da je uklonjen, ovo je velika stvar za njih“, rekao je on. NCMEC beleži porast prijava onlajn eksploatacije dece. CiberTipline neprofitne organizacije primio je 29,3 miliona izveštaja u 2021, što je 35% više u odnosu na 2020.
Meta je, još kada je još bio Fejsbuk, pokušao da napravi sličan alat, iako za odrasle, još 2017. Nije prošlo dobro jer je sajt tražio od ljudi da, u suštini, pošalju svoje (šifrovane) aktove na Fejsbuk – ne kompanija od najvećeg poverenja čak i u 2017. Kompanija je kratko vreme testirala uslugu u Australiji, ali je nije proširila na druge zemlje.
Ali u to vreme, seksualna iznuda i eksploatacija na mreži samo su se pogoršali, kako za decu i tinejdžere, tako i za odrasle. Mnoge tehnološke kompanije već koriste ovaj heš sistem da dele, uklone i prijave policiji slike seksualnog zlostavljanja dece. Portnoj je rekao da je cilj da se prijavi više kompanija.
„Nikad niko nije rekao ne“, rekao je.
Tvitter i TikTok do sada se nisu posvetili projektu. Nijedna kompanija nije odmah odgovorila na poruku za komentar u nedelju.
Antigona Dejvis, Meta-in globalni šef za bezbednost, rekla je da je Take It Down jedan od mnogih alata koje kompanija koristi za rešavanje zlostavljanja i eksploatacije dece na svojim platformama.
„Pored toga što podržavamo razvoj ovog alata i imamo sisteme za prijavljivanje i blokiranje na našoj platformi, takođe radimo niz različitih stvari kako bismo sprečili da se ovakve situacije uopšte dogode. Tako, npr. , ne dozvoljavamo nepovezanim odraslim osobama da šalju poruke maloletnicima“, rekla je ona.
Sajt radi sa stvarnim kao i sa slikama generisanim veštačkom inteligencijom i „dubokim lažnjacima“, rekao je Dejvis. Deepfakes su stvoreni da izgledaju kao stvarni, stvarni ljudi koji govore ili rade stvari koje zapravo nisu.
