Metas tilbakeføring av retningslinjer for innholdsmoderering har tillatt antisemittisme, hvit overherredømme og terrorpropaganda å blomstre på Instagram, hevder en ny rapport utgitt onsdag av Anti-Defamation Leagues Center on Extremism.
Analysen – «Hvordan Metas innholdsmoderering endrer risikoen for å gjøre Instagram til et senter for hat» – avslører at Instagram fjernet bare 7 % av hatefullt og ekstremistisk innhold rapportert av forskerne.
Gruppen for borgerrettigheter og jødisk talsmann kalte den anemiske screeningen av hatefullt innhold en «systemisk svikt» for å beskytte brukere på en av verdens mest brukte sosiale medieplattformer.
ADLs forskere rapporterte 253 deler av voldelig innhold gjennom Instagrams standard brukerrapporteringssystem, som dekket 150 kontoer og 103 innlegg som involverte hvite overherredømmenettverk, propaganda for utpekte terrororganisasjoner og leverandører som solgte nazistiske varer.
Instagram fjernet bare 11 kontoer og åtte innlegg, en andel på 93 % ikke-fjerning, hevder rapporten.
I 20 tilfeller innrømmet Instagram at det manglet evnen til å gjennomgå rapportene, sa ADL.
«Instagram utvikler seg til å bli et knutepunkt for hat og antisemittisme, og forskningen vår viser
dette helt klart,” sa Jonathan Greenblatt, ADLs administrerende direktør og nasjonal direktør.
«Metas tilbakeføring av moderasjon har skapt et tillatende miljø der ekstremister trives, dårlige skuespillere gjør Instagrams egne funksjoner til forsterkningsverktøy for hat, og som et resultat lider sårbare samfunn,» la Greenblatt til. «Som et selskap som driver noen av de største kommunikasjonsplattformene i menneskets historie, er det avgjørende at Meta endrer kurs for å unngå ytterligere normalisering av antisemittisme, hat og voldelig ekstremisme globalt.»
Rapporten fant:
- Til tross for et personlig forbud siden 2021, har influenceren Nick Fuentes bygget et skyggenettverk med 105 pluss tilknyttede kontoer med 1,4 millioner kombinert følgere, med en enkelt pro-Hitler-rulle som har mottatt 2,7 millioner visninger og 172 000 likes.
- Minst 23 kontoer ble funnet å spre ISIS og Al-Qaida-propaganda, mens 33 kontoer var knyttet til Folkefronten for frigjøring av Palestina, inkludert en aktiv innsamling for den utpekte terrororganisasjonen gjennom sin Instagram-biografi.
- En enkelt ekstremistisk vareleverandør samlet 3,2 millioner visninger som solgte klær med nazistiske symboler, gjentatte ganger gjenoppbygd etter fjerning av kontoer, selv etter at Shopify suspenderte betalingsbehandlingen for hatefullt innhold.
ADL anbefalte at Meta gjeninnfører strengere modereringstiltak mot voldelig innhold, forplikter seg til å gjennomgå alle brukerrapporter og gjenopprette meningsfull tilgang til forskerdata gjennom verktøy som CrowdTangle eller spesialiserte APIer.
ADL ba også Meta om å samarbeide med sine eksperter på hat og ekstremisme for å bedre screene bigott og inflammatorisk innhold.
Meta modererte innholdspolitikken i fjor etter at administrerende direktør Mark Zuckerberg sa at den andre sosiale medieplattformen, Facebook, hadde gjort «for mye sensur» og skrotet faktasjekking av nettverk og restriksjoner på ytringsfrihet da Donald Trump kom tilbake for en ny periode som president.
Facebook sensurerte beryktet The Posts første rapporter om innholdet på Hunter Bidens beryktede bærbare datamaskin i oktober 2020, med kritikere som sa at sosiale medier-giganten brukte sin innflytelse til å favorisere demokrater fremfor republikanere.
Meta ble nylig utsatt for et nytt slag etter at to rettsdommer fant det ansvarlig for ikke å beskytte barn, og potensielt har ført til tusenvis av lignende juridiske utfordringer.
Meta, i en uttalelse, tilbakeviste ADLs påstander om at den oppdaterte innholdspolitikken tolererte hat eller tillot det å blomstre.
«Vår forpliktelse og dedikasjon til å takle antisemittisme er uendret fordi denne typen voldelig og hatefullt materiale ikke har plass på plattformene våre. Over to tredjedeler av kontoene og innleggene som ble flagget av ADL ble fjernet før publisering av denne rapporten, mens noen ikke brøt retningslinjene våre,» sa en talsperson for ADL.
Meta motarbeidet sin policy tillater ikke innhold som glorifiserer, støtter eller representerer Nick Fuentes eller Groypers, og fjerner det når det blir funnet.
Firmaet sa at det sperrer og fjerner innlegg som bryter retningslinjene for terrorisme, narkotika og svindel og svindel.
Metas retningslinjer som forbyr nazistiske bilder og fornektelse av holocaust forblir gjeldende.
Selskapet sa at deres retningslinjer tillater innhold som fordømmer, er satirisk eller som rapporterer nyheter om disse emnene.
Selskapet bemerket at plattformene deres gir et motstridende rom som inviterer til debatt og erkjente at det er tilfeller av grupper eller enkeltpersoner som tar på seg nye taktikker for å unngå oppdagelse og unnvike retningslinjene, og det overvåker og oppdaterer kontinuerlig håndhevelsen.
