Meta je u četvrtak saopštila da razvija nove alate za zaštitu tinejdžerskih korisnika od prevara sa „iznuđivanjem“ na svojoj Instagram platformi, koju su američki političari optužili da šteti mentalnom zdravlju mladih.
Bande vode seksualne prevare tako što ubeđuju ljude da daju svoje eksplicitne slike, a zatim prete da će ih pustiti u javnost ukoliko ne dobiju novac.
Meta je rekla da testira alatku za zaštitu golotinje koju pokreće veštačka inteligencija koja bi pronalazila i zamaglila slike koje sadrže golotinju koje su poslate maloletnicima na sistemu za razmenu poruka aplikacije.
„Na ovaj način primalac nije izložen neželjenom intimnom sadržaju i ima izbor da vidi sliku ili ne“, rekla je za AFP Kapusin Tufije, koja je zadužena za zaštitu dece u Meta France.
Američka kompanija je rekla da će takođe ponuditi savete i bezbednosne savete svima koji šalju ili primaju takve poruke.
Prema tamošnjim vlastima, 2022. godine u Sjedinjenim Državama oko 3.000 mladih postalo je žrtva prevara seksploatacije.
Odvojeno, više od 40 američkih država počelo je tužiti Metu u oktobru u slučaju u kojem se kompanija optužuje da je „profitirala od dečjeg bola“.
U pravnom podnesku se navodi da je Meta eksploatisala mlade korisnike kreirajući poslovni model dizajniran da maksimizira vreme koje provode na platformi uprkos štetnosti po njihovo zdravlje.
Meta je u januaru najavio da će uvesti mere za zaštitu mlađih od 18 godina koje uključuju pooštravanje ograničenja sadržaja i jačanje alata za roditeljski nadzor.
Kompanija je u četvrtak saopštila da se najnoviji alati nadograđuju na „naš dugogodišnji rad na zaštiti mladih od neželjenog ili potencijalno štetnog kontakta“.
„Testiramo nove funkcije kako bismo zaštitili mlade od seksualnog iznuđivanja i zloupotrebe intimnih imidža i da bismo potencijalnim prevarantima i kriminalcima otežali pronalaženje i interakciju sa tinejdžerima“, saopštila je kompanija.
Dodaje se da je alat za „zaštitu golotinje“ koristio „mašinsko učenje na uređaju“, neku vrstu veštačke inteligencije, za analizu slika.
Firma, koju takođe stalno optužuju za kršenje privatnosti podataka svojih korisnika, naglasila je da neće imati pristup slikama osim ako ih korisnici ne prijave.
Meta je rekao da će takođe koristiti AI alate za identifikaciju naloga koji šalju uvredljiv materijal i ozbiljno ograničiti njihovu mogućnost interakcije sa mladim korisnicima na platformi.
Uzbunjivač Frensis Haugen, bivša Facebook inženjerka, objavila je istraživanje 2021. koje je interno sprovela Meta – tada poznata kao Fejsbuk – koje je pokazalo da je kompanija dugo bila svesna opasnosti koje njene platforme predstavljaju za mentalno zdravlje mladih ljudi.
