En topp Meta-forsker advarte selskapets ledere om at det kunne være så mange som 500 000 tilfeller av seksuell utnyttelse på nettet per dag på Facebook og Instagram, ifølge eksplosive dokumenter som ble åpnet like før en skjellsettende juryrettssak.
Åpningsargumenter begynner mandag i New Mexico riksadvokat Raul Torrez sin sak i statlig domstol, som anklager Mark Zuckerbergs sosiale mediegigant for å utsette barn for «tvillingfarene ved seksuell utnyttelse og psykisk helseskade» gjennom skumle meldinger, «sextortion»-ordninger og menneskehandel.
Resultatet, hevder staten, er en tenåringskrise på sosiale medier som har ført til angst, depresjon, selvskading og økende selvmord.
I forkant av rettssaken siterte statens advokater en intern e-post der Malia Andrus, som hadde barnesikkerhetsrelaterte roller i Meta fra august 2017 til oktober 2024, skrev at kryp var rettet mot «~500 000 ofre per DAG kun på engelske markeder» med seksuelt upassende meldinger.
«Vi forventer at den sanne situasjonen er verre,» sa Andrus i en e-post fra juni 2020, ifølge rettsprotokollen.
I en annen skremmende melding bemerket Andrus at de enorme brukerbasene til Facebook og Instagram effektivt har gitt rovdyr et verktøy for å målrette barn i en skala som tidligere var utenkelig.
«Jeg tror bare, ingen steder i menneskehetens historie kunne du ha en hemmelig samtale med 1000 mennesker,» skrev hun. «Jeg er faktisk redd for konsekvensene her.»
New Mexicos søksmål er en av flere juridiske kamper som Meta står overfor i år – og vil søke å kaste lys over sikkerhetsbrudd som har fanget oppmerksomheten til amerikanske lovgivere på Capitol Hill.
Forrige uke startet en klokkeklar rettssak som anklaget Meta og Google-eide YouTube for å fremme avhengighet av sosiale medier hos unge brukere i California, med hundrevis av ofres familier og skoledistrikter som saksøkere. Andre steder anket FTC i forrige måned tapet i det store antitrustsøksmålet som søkte en oppløsning av Meta.
De mange rettssakene som anklager Meta for å utsette barn for skade er en «delt skjerm av Mark Zuckerberg-mareritt», ifølge Sacha Haworth, administrerende direktør for Tech Oversight Project, en vakthundgruppe.
«Dette er en generasjons prøvelser; akkurat som verden så rettssaler holde Big Tobacco og Big Pharma ansvarlige, vil vi for første gang se Big Tech-sjefer som Zuck ta standpunkt,» sa Haworth. «Verden ser på, Metas regnskap har kommet, og konsekvensene har akkurat begynt.»
New Mexicos sak har blitt fulgt nøye, delvis på grunn av de grelle detaljene som dukket opp under etterforskningen av Metas praksis.
Testkontoer opprettet av statlige etterforskere ble angivelig bombardert med seksuelt innhold for voksne og oppsøking fra påståtte barnerovdyr, inkludert «bilder og videoer av kjønnsorganer» og et tilbud om en sekssifret betaling for å spille i en pornovideo, hevder søksmålet.
I andre e-poster som er detaljert i saksbehandlingen, har Andrus angivelig revet verktøyene for aldersbekreftelse som var ment å holde mindreårige brukere borte fra Instagram, og advarte om at de lett ble lurt.
«Våre etterforskere har gitt tilbakemelding om at nesten hver gang de møter en aldersløgner på IG (i en barnesikkerhetssammenheng) er aldersforutsigelsen feil (tilpasset alderen de feilaktig hevder å være),» skrev Andrus, ifølge rettsdokumenter.
En Meta-talsperson sa at de interne diskusjonene som er sitert i arkivene, fant sted som en del av en aktiv innsats fra selskapet for å beskytte barn.
«Mens New Mexico kommer med sensasjonelle, irrelevante og distraherende argumenter, er vi fokusert på å demonstrere vårt langvarige engasjement for å støtte unge mennesker,» sa talspersonen i en uttalelse. «I over et tiår har vi lyttet til foreldre, jobbet med eksperter og rettshåndhevelse, og utført grundige undersøkelser for å forstå problemene som betyr mest.»
Andrus, som forlot Meta i 2024 og nå jobber i en online sikkerhetsrolle for en OpenAI, returnerte ikke en forespørsel om kommentar.
Staten hevdet at Andrus har dyp kunnskap om Metas håndtering av sexmisbruksproblemet på nettet fordi hun jobbet mye med intern forskning, inkludert å tjene som medlem av en «Groomers Taskforce, som undersøkte voksne rovdyr som anmodet om mindreårige.»
«Ms. Andrus kommenterte også Metas unnlatelse av å investere tilstrekkelig i barnesikkerhet, den villedende karakteren til noen av dets offentlig rapporterte barnesikkerhetsmålinger, og (uavslørte) umodenheten til Instagrams barnesikkerhetstiltak,» heter det i statens arkiv.
I forkant av rettssaken prøvde Metas advokater å blokkere enhver omtale av flere sensitive emner – inkludert selskapets AI-chatbots, forskningsundersøkelser som beskriver de skadelige effektene av produktene deres på mental helse og detaljer om bombe-undercover-operasjonen som New Mexico-etterforskere utførte for å avsløre tilfeller av sexmisbruk på nettet.
Dommer Biedscheid avviste til slutt forespørslene under høringer før rettssaken.
Andre steder viste interne dokumenter at Zuckerberg meldte fra om å la mindreårige bruke Metas AI chatbot-ledsager selv etter at sikkerhetsansatte advarte om at de kunne brukes til romantiske eller seksualiserte samtaler. Reuters var først ute med å rapportere om dokumentene.
Torrez har aggressivt kritisert Zuckerberg i forkant av rettssaken. Som The Post rapporterte i desember, kalte han Instagrams implementering av et PG-13-rangeringssystem for å beskytte barn mot ulovlig innhold som et «farlig reklamestunt som lurer foreldre inn i en falsk følelse av trygghet.»
Meta har slått tilbake, anklaget Torrez for å komme med påstander som er «fylt med faktafeil og feilaktige fremstillinger» og ignorerer selskapets fremgang med å forbedre rekkverk for barn.
