Sa petlovima koji kukuriču u pozadini dok govori iz prepunog izbegličkog kampa u Bangladešu koji je njegov dom od 2017, Maung Savjedolah (21) opisuje šta se dogodilo kada su na Fejsbuku počeli da se šire nasilni govor mržnje i dezinformacije usmerene na Rohinja manjinu u Mjanmaru.
„Bili smo dobri sa većinom ljudi tamo. Ali neki veoma uskogrudni i veoma nacionalistički tipovi eskalirali su mržnju protiv Rohinja na Fejsbuku“, rekao je on. „I ljudi koji su bili dobri, u bliskoj komunikaciji sa Rohinjom. su se predomislili protiv Rohindža i to se pretvorilo u mržnju.“
Godinama je Fejsbuk, koji se sada zove Meta Platforms Inc., gurao narativ da je to neutralna platforma u Mjanmaru koju su zlonamerni ljudi zloupotrebljavali, i da uprkos naporima da ukloni nasilni materijal i materijal mržnje, nažalost nije uspela. Taj narativ odražava njen odgovor na ulogu koju je igrao u drugim sukobima širom sveta, bilo da su izbori 2020. u SAD ili govor mržnje u Indiji.
Ali novi i sveobuhvatni izveštaj Amnesti internešenela navodi da je narativ Facebooka lažan. Platforma, kaže Amnesti, nije bila samo pasivna lokacija sa nedovoljnom moderacijom sadržaja. Umesto toga, Metini algoritmi su „proaktivno pojačavali i promovisali sadržaj“ na Fejsbuku, što je podstaklo nasilnu mržnju protiv Rohinja počevši od 2012.
Uprkos godinama upozorenja, otkrio je Amnesti, kompanija ne samo da nije uspela da ukloni nasilni govor mržnje i dezinformacije protiv Rohinja, već ih je aktivno širila i pojačavala sve dok nije kulminirala masakrom 2017. Tajming se poklopio sa rastućom popularnošću Fejsbuka u Mjanmaru, gde je mnogim ljudima služio kao jedina veza sa onlajn svetom. To je efektivno učinilo Facebook internetom za ogroman broj stanovnika Mjanmara.
Više od 700.000 Rohinja je te godine pobeglo u susedni Bangladeš. Snage bezbednosti Mjanmara optužene su za masovna silovanja, ubistva i paljenje hiljada kuća u vlasništvu Rohinja.
„Meta je – kroz svoje opasne algoritme i svoju nemilosrdnu potragu za profitom – značajno doprinela ozbiljnim kršenjima ljudskih prava počinjenim protiv Rohinja“, navodi se u izveštaju.
Portparol Mete je odbio da odgovara na pitanja o izveštaju Amnestija. U saopštenju, kompanija je rekla da je „solidarna sa međunarodnom zajednicom i podržava napore da se Tatmadav pozove na odgovornost za svoje zločine protiv naroda Rohingja“.
„Naš rad na bezbednosti i integritetu u Mjanmaru ostaje vođen povratnim informacijama lokalnih organizacija civilnog društva i međunarodnih institucija, uključujući Misiju UN za utvrđivanje činjenica o Mjanmaru; procenu uticaja na ljudska prava koju smo naručili 2018. godine; kao i naše tekuće upravljanje rizikom za ljudska prava“, rekao je Rafael Frankel, direktor javne politike za tržišta u razvoju, Meta Asia-Pacific, u saopštenju.
Kao i Savieddollah, koji je citiran u izveštaju Amnestija i koji je u utorak razgovarao sa AP-om, većina ljudi koji su pobegli iz Mjanmara — oko 80% Rohinja koji su u to vreme živeli u zapadnoj državi Mjanmara, Rahine — još uvek borave u izbegličkim kampovima. I traže od Mete da plati reparacije za svoju ulogu u nasilnoj represiji nad Rohinja muslimanima u Mjanmaru, koju su SAD ranije ove godine proglasile genocidom.
Izveštaj Amnestija, objavljen u sredu, zasnovan je na intervjuima sa izbeglicama Rohinja, bivšim osobljem Meta, akademicima, aktivistima i drugima. Takođe se oslanjao na dokumente koje je Kongresu prošle godine obelodanila uzbunjivač Frensis Haugen, bivši naučnik za podatke na Fejsbuku. Napominje da aktivisti za digitalna prava kažu da je Meta poslednjih godina poboljšao svoj angažman civilnog društva i neke aspekte prakse moderiranja sadržaja u Mjanmaru. U januaru 2021., nakon što je nasilnim pučem svrgnuta vlada, zabranila je vojsci zemlje sa svoje platforme.
Ali kritičari, uključujući neke od zaposlenih u Fejsbuku, dugo su tvrdili da takav pristup nikada neće zaista funkcionisati. To znači da Meta pokušava da ukloni štetni materijal, dok njeni algoritmi dizajnirani da guraju „privlačan“ sadržaj za koji je veća verovatnoća da će razbesneti ljude u suštini rade protiv toga.
„Ovi algoritmi su zaista opasni po naša ljudska prava. A ono što se dogodilo ulozi Rohinja i Fejsbuka u tom specifičnom sukobu rizikuje da se ponovi, u mnogo različitih konteksta širom sveta“, rekao je Pat de Brun, istraživač i savetnik za veštačku inteligenciju i ljudska prava u Amnestiju.
„Kompanija se pokazala potpuno nespremnom ili nesposobnom da reši osnovne uzroke svog uticaja na ljudska prava.
Nakon što je Nezavisna međunarodna misija UN-a za utvrđivanje činjenica o Mjanmaru istakla „značajnu“ ulogu koju je Fejsbuk odigrao u zločinima počinjenim protiv Rohinja, Meta je 2018. priznao da „nismo činili dovoljno da sprečimo da se naša platforma koristi za podstiču podele i podstiču vanmrežno nasilje“.
U narednim godinama, kompanija je „reklamirala određena poboljšanja u svom angažovanju zajednice i praksi moderiranja sadržaja u Mjanmaru“, rekao je Amnesti, dodajući da se u njegovom izveštaju „utvrdjuje da su se ove mere pokazale potpuno neadekvatne“.
Na primer, 2020. godine, tri godine nakon što je nasilje u Mjanmaru ubilo hiljade muslimana Rohinja i raselilo još 700.000, Fejsbuk je istražio kako video-snimak vodeće ličnosti protiv Rohinja mržnje, U Virathua, kruži na njegovom sajtu.
Ispitivanje je otkrilo da je preko 70% pregleda video snimka došlo od „lančanja“ – to jest, predloženo je ljudima koji su pustili drugi video, pokazujući šta je „sledeće“. Korisnici Fejsbuka nisu tražili ili tražili video, već su im ga dostavili algoritmi platforme.
Virathu je zabranjen pristup Fejsbuku od 2018.
„Čak i pristup moderiranju sadržaja sa dobrim resursima, u izolaciji, verovatno ne bi bio dovoljan da spreči i ublaži ove algoritamske štete. To je zato što moderiranje sadržaja ne uspeva da reši osnovni uzrok Meta-inog algoritamskog pojačavanja štetnog sadržaja“, kaže se u izveštaju Amnestija.
Izbeglice Rohingja traže neodređenu reparaciju od giganta društvenih medija Menlo Parka u Kaliforniji zbog njegove uloge u održavanju genocida. Meta, koja je predmet dvostrukih tužbi u SAD i Velikoj Britaniji, tražeći 150 milijardi dolara za Rohinja izbeglice, do sada je to odbila.
„Verujemo da je genocid nad Rohinjama bio moguć samo zbog Fejsbuka“, rekao je Savjedolah. „Oni su međusobno komunicirali kako bi širili mržnju, organizovali su kampanje preko Fejsbuka. Ali Fejsbuk je ćutao.”
