Filter problematičnog sadržaja je imao negativan efekat, povećavajući distribuciju „dezinformacija“.
Filteri sadržaja Facebook giganta društvenih medija, koji imaju za cilj da smanje rangiranje štetnog sadržaja i „dezinformacija“, ne funkcionišu već šest meseci, prema internom izveštaju, postavljajući poznato pitanje ko će posmatrati čuvare.
Čak polovina pregleda Nevs Feed-a bila je podložna potencijalnim „rizicima integriteta“ tokom poslednjih šest meseci, otkriva interni izveštaj koji je prosleđen prošlog meseca i koji je The Verge video u petak. Prema izveštaju, inženjeri su prvi put primetili problem u oktobru, ali nisu mogli da pronađu uzrok, posmatrajući redovne napade nedeljama dok nisu konačno – navodno – mogli da ga stave pod kontrolu 11. marta.
Ti „rizici integriteta“ nisu bili samo izbijanje „lažnih vesti“, iako je to bio simptom koji je inženjere kompanije prvi skrenuo. Umesto da potisne ponovljene prestupnike koje su Facebook-ovi proverači činjenica prethodno označili zbog širenja „dezinformacija“, Nevs Feed je pojačao njihovu distribuciju, što je dovelo do čak 30% više pregleda za bilo koju objavu.
Facebook-ovi filteri takođe nisu uspeli da derankiraju golotinju, nasilje i ruske državne medije, koje je platforma postavila na isti nivo uvredljivosti kao golotinja i nasilje. Nakon Metine najave da više neće ograničavati pozive na nasilje protiv Rusa u kontekstu ukrajinskog sukoba, moskovski medijski regulator Roskomnadzor blokirao je pristup Fejsbuku i Instagramu u Rusiji više od nedelju dana pre nego što su inženjeri kompanije Meta navodno uspeli da otkriju zašto su platforme podsticali štetni sadržaj.
Interni izveštaj je ukazao da problem sa filtriranjem zapravo datira iz 2019. Portparol Meta-e Džo Ozborn rekao je za Verge da je kompanija „otkrila nedoslednosti u smanjenju rangiranja u pet različitih navrata, što je bilo u korelaciji sa malim, privremenim povećanjem internih pokazatelja“, ali da je problem ne neće imati „primetan uticaj“ do oktobra. Suprotno izveštaju, Ozborn je insistirao da greška „nije imala nikakav značajan, dugoročan uticaj na naše metrike“ i da se ne odnosi na „sadržaj koji je dostigao sistemski prag za brisanje“.
Konfuzija oko dugotrajnog prisustva „bube“ osvetljava rastući sadržaj Facebook-a koji je podložan derankingu. Više ne potiskuju samo sadržaj koji krši pravila, algoritmi platforme takođe ciljaju „granični“ sadržaj koji je navodno blizu kršenja njegovih pravila, plus drugi sadržaj za koji AI označava kao potencijalno kršenje, ali da zahteva ljudski pregled da bi bio siguran.
Čak je i izvršni direktor Mark Zakerberg priznao da su korisnici prinuđeni da se angažuju sa „senzacionalističkijim i provokativnijim“ sadržajem, a kompanija se prošle godine hvalila da će sav politički sadržaj biti smanjen u Nevs Feed-u.
Facebook – sada poznat kao Meta – nedavno se našao pod mikroskopom zbog 400 miliona dolara koje je uložio u izbore 2020. Ta sredstva su bila skoro isključivo usmerena ka okruzima koje je osvojio tadašnji kandidat Džo Bajden. Dok su primaoci sredstava bile neprofitne organizacije, kojima je poreska uprava zabranila da podržavaju određenog političkog kandidata ili stranku, u grupama su radili demokratski operativci, uključujući bivše stratege Hilari Klinton i Baraka Obamu.
Kongresni republikanci su takođe tražili dokumente i komunikacije u vezi sa Metinim naporima da potisne priču o laptopu Hantera Bajdena, koja bi bila inkriminirajuće „oktobarsko iznenađenje“ protiv tadašnjeg kandidata Džoa Bajdena da je nisu jednostrano potisnuli Fejsbuk i Tviter.
