Snapchat klarte ikke å advare sine brukere tilstrekkelig om omfanget av utbredte «sextortion-ordninger» rettet mot mindreårige brukere – selv mens ansatte diskuterte internt om hvordan de skulle takle krisen uten å forårsake panikk, ifølge en uredigert versjon av et søksmål utgitt tirsdag.
De nye detaljene dukket opp i en klage som opprinnelig ble inngitt i forrige måned av New Mexico riksadvokat Raúl Torrez.
Den hevder at bildedelingsappen som er populær blant barn, er en viktig plattform for online-sex-rovdyr som tvinger mindreårige til å sende grafiske bilder og deretter bruker dem som utpressing.
Interne data viste at Snap mottok «rundt 10 000 brukerrapporter om sextortion hver måned,» sa et medlem av selskapets tillits- og sikkerhetsteam i en e-post fra november 2022, ifølge den oppdaterte saken. Den ansatte beskrev situasjonen som «utrolig bekymringsfull».
En annen ansatt svarte at dataene, selv om de var «massive», sannsynligvis var en «liten brøkdel av dette misbruket» som faktisk fant sted på appen fordi det er et «pinlig problem» for brukere å rapportere, ifølge klagen.
«Det er nedslående å se at Snap-ansatte har hevet mange røde flagg som har fortsatt å bli ignorert av ledere,» sa Torrez i en uttalelse tirsdag.
Det uredigerte søksmålet inkluderte også en intern Snap-markedsføringsbrief sendt i desember 2022 som erkjente at «sexting eller sending av nakenbilder har blitt en vanlig oppførsel» som kan «føre til uforholdsmessige konsekvenser og alvorlig skade» for brukere.
Dokumentet ba Snap om å gi informasjon til brukere om risikoen «uten å frykte Snapchattere,» ifølge søksmålet.
«Vi kan ikke fortelle vårt publikum at de IKKE skal sende nakenbilder; denne tilnærmingen er sannsynligvis fåfengt, «tonedøv» og urealistisk,» heter det i dokumentet. Når det er sagt, kan vi heller ikke si: ‘Hvis du GJØR det: (1) ikke har ansiktet ditt på bildet, (2) ikke har tatoveringer, piercinger eller andre definerende fysiske egenskaper i sikte, osv.”
En Snap-talsperson sa at appen var designet med «innebygde sikkerhetsrekkverk» og med «bevisste designvalg for å gjøre det vanskelig for fremmede å oppdage mindreårige på tjenesten vår.»
«Vi fortsetter å utvikle sikkerhetsmekanismene og retningslinjene våre, fra å utnytte avansert teknologi for å oppdage og blokkere visse aktiviteter, til å forby vennskap fra mistenkelige kontoer, til å jobbe sammen med rettshåndhevelse og offentlige etater, blant så mye mer,» sa talspersonen i en uttalelse .
«Vi bryr oss dypt om arbeidet vårt her, og det plager oss når dårlige skuespillere misbruker tjenesten vår,» sa uttalelsen.
Snapchat – kjent for meldinger som forsvinner i løpet av 24 timer – er en av flere apper for sosiale medier som har vakt irritasjon hos lovgivere for angivelig ikke å beskytte barn på nettet.
Som The Post har rapportert, har Snap brutt rekkene med andre sosiale mediefirmaer og sluttet seg til Kids Online Safety Act, et lovforslag for to partier som vil pålegge firmaer en lovlig «omsorgsplikt» for å sikre at appene deres ikke gir næring til seksuelle overgrep mot barn og andre skader på nett.
I mars 2022 advarte en Snap-konsulent selskapets ansatte om at den «flyktige naturen til Snaps» kan lure unge brukere inn i en «falsk følelse av privatliv».
Et annet sted i New Mexicos klage sendte en Snap-leder e-post til kolleger i 2022 og uttrykte bekymring for firmaets evne til å «faktisk verifisere» brukernes alder – til tross for påstanden om at det ikke tillot barn under 13 år å bruke Snapchat.
«[T]appen, som mange andre plattformer, bruker ikke et aldersbekreftelsessystem, så ethvert barn som vet hvordan man skriver en falsk bursdag, kan opprette en konto,» sa lederen.
I august 2022 diskuterte en Snap-ansatt viktigheten av å ta skritt for å «sikre at brukerrapporter knyttet til pleie og sextortion ikke fortsetter å falle gjennom sprekkene.»
Andre ansatte svarte på e-posten, med en som siterte en sak der en bestemt brukers konto hadde «75 forskjellige rapporter mot seg siden oktober ’21, som nevnte nakenbilder, mindreårige og utpressing, men kontoen var fortsatt aktiv.»
På et tidspunkt uttrykte en lei Snap-ansatt at appen ble «overkjørt av denne sextortionen – akkurat nå.»
«Vi har vridd tommelen og vred oss i hendene hele f—kongeåret,» sa den ansatte, ifølge klagen.
I desember i fjor saksøkte statsadvokaten i New Mexico Facebook og Instagram-forelder Meta for å ha unnlatt å beskytte barn mot oppsøking av sex-rovdyr på appene.
