Den mindreårige datteren til en tidligere Meta-sikkerhetsforsker ble bombardert med seksuelt eksplisitte bilder og forslag i løpet av få dager etter å ha opprettet sin første Instagram-konto, ifølge bombe-vitnesbyrd ved en landemerke rettssak i New Mexico.
Arturo Béjar, som ledet et sikkerhetsfokusert team ved Mark Zuckerbergs selskap fra 2009 til 2015, fortalte jurymedlemmene at han bestemte seg for å komme tilbake som konsulent i 2019 etter å ha blitt skremt over de syke meldingene hans da 14 år gamle datter hadde mottatt på Instagram, inkludert «uønskede penisbilder».
«Jeg var sammen med henne da hun opprettet kontoen,» sa Béjar, som så ut til å kvele seg flere ganger. «Jeg visste ikke at det kom til å bringe rovdyr til døren hennes, folk som angrep henne på døren, folk som ville be henne selge nakenbilder av seg selv da hun var tenåring til døren.»
Béjar, som har blitt en frittalende Meta-kritiker siden han forlot selskapet for godt i 2021, er et nøkkelvitne for statens advokater i New Mexico, som sier at teknologigiganten vendte det blinde øyet mens rovdyr og sexkryp siktet mot barn for å beskytte Metas fortjeneste.
Hans vitneforklaring skulle fortsette onsdag, med en ny runde med spørsmål fra statsadvokater etterfulgt av kryssforhør av Metas forsvarsteam.
Nettsikkerhetseksperten sa at Meta endret seg betydelig i løpet av sitt andre opphold i selskapet da det strevde for å holde tritt med spirende rivaler som Snap og TikTok. Béjar vitnet om at sikkerhetsforskere ofte ble stengt av toppmessing, inkludert Zuckerberg og Instagram-sjef Adam Mosseri, når de prøvde å implementere nye funksjoner ment å beskytte barn.
Béjar sa for eksempel at Instagram manglet en funksjon som tillater brukere å rapportere hvorfor de blokkerte en bestemt person – noe som betydde at han og datteren hans hadde liten utvei når de prøvde å varsle selskapet om rovdyr.
«Da datteren min fikk en melding som sa: «Vil du ha sex i kveld?» – første melding hun får fra en fremmed – det var ingen mulighet [to report]», sa Béjar.
Han påsto også at Meta var sørgelig underbemannet for å ta tak i mengden av sikkerhetsbrudd den sto overfor. Han la skylden på bruken av algoritmer, som, sa han, hjalp kryper å finne potensielle ofre lettere.
«Produktet er veldig bra til å koble folk med interesser, og hvis interessen din er små jenter, vil det være veldig bra til å knytte deg til små jenter,» vitnet han.
En Meta-talsperson presset sterkt tilbake på Béjars vitnesbyrd, og uttalte at forestillingen om sikkerhet som led mellom hans to stints var «rett og slett ikke sant.»
«Vi har brukt år på forskning for å bedre forstå tenåringer sine erfaringer på Instagram – både gode og dårlige,» sa talspersonen. «Vi gjør denne forskningen for å hjelpe oss med å forbedre oss, og den har informert om mange nye funksjoner designet for å gi tryggere, mer positive opplevelser for tenåringer.»
«Disse spenner fra tenåringskontoer, som automatisk plasserer tenåringer på private kontoer og de strengeste meldingsinnstillingene, utvikling av verktøy for foreldretilsyn og enklere måter for tenåringer å rapportere og blokkere,» la talspersonen til.
Béjar påsto også at Meta skjulte det sanne synet av hvor mye skade og misbruk som skjedde på appene deres gjennom «villedende» statistikk.
En intern undersøkelse kalt «Bad Experiences and Encounters Framework», eller BEEF, viste på et tidspunkt at 16,3 % av brukerne hadde rapportert å ha sett nakenhet eller seksuell aktivitet på Instagram i løpet av en uke.
Meta publiserte i stedet data i sin Community Standards Enforcement Report, eller CSER, som sa at bare 0,02 % til 0,03 % av de totale visningene på Instagram inneholdt nakenhet eller seksuell aktivitet.
Meta sa at deres CSER-rapporter «skisserer innholdet vi ikke tillater på plattformen og har blitt informert av eksperter over mange år. Disse retningslinjene må være presise for å hjelpe oss med å håndheve dem nøyaktig og konsekvent i skala.»
New Mexico-rettssaken er en av flere juridiske hodepine som Meta for tiden står overfor, som også forsvarer seg i en separat California-rettssak med påstand om at den førte til tenåringsavhengighet på sosiale medier.
Under åpningsargumentene understreket Metas advokater at selskapet har tatt en rekke skritt for å beskytte unge brukere mot skade og er på forhånd med foreldrene om potensielle risikoer.
På tampen av rettssaken sprengte Meta-talsmann Andy Stone New Mexico riksadvokat Raul Torrez, og påsto at han ledet «en etisk kompromittert etterforskning av Meta som bevisst setter ekte barn i fare» etter at statlige etterforskere opprettet testkontoer for å undersøke selskapets sikkerhetsstandarder.
