Etter å ha sett hvor forferdelig sosiale medier er for unge tenåringsjenter – og graden av overgrep de utsettes for fra fremmede som ønsker å stelle dem og enda verre – følte Raul Torrez at det bare var én måte å fikse ting på: ved å dra ledere fra Meta inn i retten for å holde dem ansvarlige.
«Det må være en ny undersøkelse av de algoritmiske funksjonene som tjener rovdyr av den typen sårbare barn som vi vet er på plattformene for øyeblikket,» sa Torrez, statsadvokaten i New Mexico, til meg.
Presset av Torrez, er delstaten New Mexico for tiden midt i en rettssak som anklager Mark Zuckerbergs selskaper – inkludert Instagram, Facebook og What’s App – for å utsette barn for «tvillingfarene ved seksuell utnyttelse og psykisk helseskade» gjennom meldinger, «sextortion»-ordninger og menneskehandel.
I følge eksplosive dokumenter som ble åpnet på tampen av den landemerke juryrettsaken, advarte en forsker ved Meta toppledere om at det kan være så mange som 500 000 daglige tilfeller av seksuell utnyttelse på nettet på selskapets sosiale medieplattformer.
En tidligere Meta-leder, Arturo Béjar, forårsaket store bølger med sitt vitnesbyrd i saken.
«Produktet er veldig bra til å koble folk med interesser, og hvis interessen din er små jenter, vil det være veldig bra til å knytte deg til små jenter,» vitnet han.
Béjar påsto at hans egen mindreårige datter ble bombardert av rovdyr som sendte meldinger og nakenbilder.
«Jeg var sammen med henne da hun opprettet kontoen,» sa Béjar. «Jeg visste ikke at det kom til å bringe rovdyr til døren hennes, folk som angrep henne på døren, folk som ville be henne selge nakenbilder av seg selv da hun var tenåring til døren.»
Torrez og teamet hans så på egenhånd hva som kan skje når de oppretter en lokkekonto, og utgir seg for å være en 13 år gammel jente. «Tenåringen» ble raskt bombardert av eksplisitte bilder og forslag fra kommende rovdyr.
«Det vi så var en eksplosjon – først i antall voksne menn som fulgte beretningene, men også direkte meldinger som inkluderte seksuelt eksplisitt materiale, seksuelt eksplisitte fotografier,» fortalte Torrez, en tidligere aktor for overgrep mot barn.
I mai 2024 kunngjorde Torrez at tre rovdyr hadde blitt arrestert i «Operation MetaPhile».
De hadde reist til et hotell i New Mexico for å ha sex med en de trodde var en 13 år gammel jente. Alle tre tok kontakt gjennom Meta-plattformer, inkludert Instagram, WhatsApp og Facebook.
En mann, 52 år gamle Fernando Clyde, sendte bilder av kjønnsorganene hans til den mindreårige kontoen og sa at han ønsket å voldta henne, få henne til å gråte og gjøre henne gravid.
Da lokkemannen sendte ham et bilde av en venn, hevdet hun «akkurat fylt 11 år», svarte han: «Mmmmm. Virkelig.»
En annen, Christopher Reynolds, ble målrettet spesifikt i aksjonen etter at moren til en ekte 11-åring han kontaktet meldte ham til politiet.
Reynolds fortalte lokkemannen at han kunne få et motell der hun befant seg. «Kan vi bare slappe av? Og det kan gi oss litt tid til å jobbe med kyssene våre,» skrev han.
Alle tre mennene ble siktet for oppfordring til barn ved elektronisk kommunikasjon, og to for forsøk på kriminell seksuell penetrering av en mindreårig.
Torrez hevder at hans undercover-operasjon er et bevis på at Meta tramper forbrukerbeskyttelseslover, og unnlater å informere kunder om skader deres produkt kan forårsake.
«Jeg tror ikke at juryen til syvende og sist ville være overbevist om at et selskap med så mange ressurser som de har til rådighet har gjort nesten nok for å stoppe den skaden,» sa han til meg.
Instagram-sjef Adam Mosseri tok standpunkt forrige uke i rettssaken for å forsvare plattformen.
«Jeg tror vi bør gjøre det vi kan,» sa han, på spørsmål om Instagram bør gjøre en innsats for å holde tenåringer trygge. «Jeg tror at det er over 2 milliarder mennesker på Instagram, noe som betyr at det er millioner av tenåringer på Instagram. Så når du sier alt, vil jeg være tydelig på at vi er en stor nok plattform til at noen ting noen ganger vil gjøre det – så for eksempel vil problematisk innhold bli sett.»
Torrez sa at han betraktet vitnesbyrd som del av en «konsekvent nedtoning av skadene» fra ledere.
Rettssaken vil sannsynligvis fortsette i flere uker før en jury avgjør om Meta er ansvarlig for skade på sin plattform.
I mellomtiden er en klokkerettssak i Los Angeles for øyeblikket for en jury, da en 20 år gammel California-jente, bare kjent som KGM, saksøker Meta og Google, og påstår at plattformene deres var bevisst designet for å avhengige barn.
En talsperson for Meta sa at Torrez kommer med «sensasjonelle, irrelevante og distraherende argumenter ved å velge utvalgte dokumenter.»
«Vi er fokusert på å demonstrere vårt langvarige engasjement for å støtte unge mennesker,» sa talspersonen. «I over et tiår har vi lyttet til foreldre, jobbet med eksperter og rettshåndhevelse, og utført grundig forskning … for å gjøre meningsfulle endringer.»
Torrez sa at endringene han ønsker å se Meta gjøre burde være gjennomførbare.
«Et av de mest kritiske spørsmålene er rettferdig [more stringent] aldersverifisering,» sa han, «slik at vi har en klar forståelse av nøyaktig alderen til brukerne som er i disse områdene, slik at opplevelsen de har kan kureres nøye.»
