I øyeblikket da hennes verden knuste for tre år siden, fant Stephanie Mistre sin 15 år gamle datter, Marie, livløs på soverommet der hun døde av selvmord.
«Jeg gikk fra lys til mørke på en brøkdel av et sekund,» sa Mistre, og beskrev dagen i september 2021 som markerte starten på kampen hennes mot TikTok, den kinesiskeide videoappen hun beskylder for å presse datteren mot fortvilelse.
Mistre dykket ned i datterens telefon etter hennes død, og oppdaget videoer som promoterte selvmordsmetoder, veiledninger og kommentarer som oppmuntret brukere til å gå utover «bare selvmordsforsøk».
Hun sa at TikToks algoritme gjentatte ganger hadde presset slikt innhold til datteren hennes.
«Det var hjernevask,» sa Mistre, som bor i Cassis, nær Marseille, i Sør-Frankrike. «De normaliserte depresjon og selvskading, og gjorde det til en vridd følelse av tilhørighet.»
Nå saksøker Mistre og seks andre familier TikTok Frankrike, og anklager plattformen for å unnlate å moderere skadelig innhold og utsette barn for livstruende materiale.
Av de syv familiene opplevde to å miste et barn.
På spørsmål om søksmålet sa TikTok at retningslinjene forbyr all promotering av selvmord og at de sysselsetter 40 000 tillits- og sikkerhetseksperter over hele verden – hundrevis av dem er fransktalende moderatorer – for å fjerne farlige innlegg.
Selskapet sa også at det henviser brukere som søker etter selvmordsrelaterte videoer til psykiske helsetjenester.
Før hun tok sitt eget liv, lagde Marie Le Tiec flere videoer for å forklare avgjørelsen hennes, siterte forskjellige vanskeligheter i livet hennes, og siterte en sang av den Louisiana-baserte emo-rapgruppen Suicideboys, som er populære på TikTok.
Moren hennes hevder også at datteren gjentatte ganger ble mobbet og trakassert på skolen og på nettet.
I tillegg til søksmålet har den 51 år gamle moren og mannen hennes anmeldt fem av Maries klassekamerater og hennes forrige videregående skole.
Fremfor alt skylder Mistre på TikTok og sier at å legge appen «i hendene på en empatisk og følsom tenåring som ikke vet hva som er ekte fra det som ikke er, er som en tikkende bombe».
Forskere har ikke etablert en klar sammenheng mellom sosiale medier og psykiske helseproblemer eller psykologisk skade, sa Grégoire Borst, professor i psykologi og kognitiv nevrovitenskap ved Paris-Cité University.
«Det er veldig vanskelig å vise klar årsak og virkning på dette området,» sa Borst, og siterer en ledende fagfellevurdert studie som fant at bare 0,4 % av forskjellene i tenårings velvære kan tilskrives bruk av sosiale medier.
I tillegg påpekte Borst at ingen nåværende studier tyder på at TikTok er mer skadelig enn konkurrerende apper som Snapchat, X, Facebook eller Instagram.
Mens de fleste tenåringer bruker sosiale medier uten betydelig skade, ligger den reelle risikoen, sa Borst, hos de som allerede står overfor utfordringer som mobbing eller familieustabilitet.
«Når tenåringer allerede føler seg dårlige med seg selv og bruker tid på å bli utsatt for forvrengte bilder eller skadelige sosiale sammenligninger,» kan det forverre deres mentale tilstand, sa Borst.
Advokat Laure Boutron-Marmion, som representerer de syv familiene som saksøker TikTok, sa at saken deres er basert på «omfattende bevis». Selskapet «kan ikke lenger skjule seg bak påstanden om at det ikke er deres ansvar fordi de ikke lager innholdet,» sa Boutron-Marmion.
Søksmålet hevder at TikToks algoritme er designet for å fange sårbare brukere i sykluser av fortvilelse for profitt og søker erstatning for familiene.
«Deres strategi er lumsk,» sa Mistre. «De hekter barn inn i depressivt innhold for å holde dem på plattformen, og gjør dem om til lukrative produkter for gjenforlovelse.»
Boutron-Marmion bemerket at TikToks kinesiske versjon, Douyin, har mye strengere innholdskontroller for unge brukere. Den inkluderer en obligatorisk «ungdomsmodus» for brukere under 14 år som begrenser skjermtiden til 40 minutter om dagen og tilbyr kun godkjent innhold.
«Det beviser at de kan moderere innhold når de velger det,» sa Boutron-Marmion. «Fraværet av disse sikkerhetstiltakene her er talende.»
En rapport med tittelen «Barn og skjermer», bestilt av Frankrikes president Emmanuel Macron i april og som Borst bidro til, konkluderte med at visse algoritmiske funksjoner bør betraktes som vanedannende og utestenges fra enhver app i Frankrike.
Rapporten ba også om å begrense tilgangen til sosiale medier for mindreårige under 15 år i Frankrike.
Ingen av tiltakene er vedtatt.
TikTok, som sto overfor å bli stengt ned i USA inntil president Donald Trump suspenderte et forbud mot det, har også blitt undersøkt globalt.
USA har sett lignende juridiske forsøk fra foreldre. En rettssak i Los Angeles County anklager Meta og dets plattformer Instagram og Facebook, samt Snapchat og TikTok, for å designe defekte produkter som forårsaker alvorlige skader.
Søksmålet viser tre tenåringer som døde av selvmord.
I en annen klage anklager to stammenasjoner store sosiale medieselskaper, inkludert YouTube-eier Alphabet, for å bidra til høye selvmordstal blant innfødte ungdommer.
Meta-sjef Mark Zuckerberg ba om unnskyldning til foreldre som hadde mistet barn mens de vitnet i det amerikanske senatet i fjor.
I desember vedtok Australia en banebrytende lov som forbyr kontoer på sosiale medier for barn under 16 år.
I Frankrike forventer Boutron-Marmion at TikTok Limited Technologies, EU-datterselskapet for ByteDance – det kinesiske selskapet som eier TikTok – svarer på påstandene i første kvartal av 2025. Myndighetene vil senere avgjøre om og når en rettssak skal finne sted.
Da de ble kontaktet av The Associated Press, sa TikTok at de ikke hadde blitt varslet om det franske søksmålet, som ble anlagt i november. Det kan ta måneder for det franske rettssystemet å behandle klagen og for myndighetene i Irland – hjemmet til TikToks europeiske hovedkvarter – å formelt varsle selskapet, sa Boutron-Marmion.
I stedet fremhevet en talsperson for Tiktok selskapets retningslinjer som forbyr innhold som fremmer selvmord eller selvskading.
Kritikere hevder at TikToks påstander om robust moderering kommer til kort.
Imran Ahmed, administrerende direktør for Senter for bekjempelse av digitalt hat, avviste TikToks påstand om at over 98,8 % av skadelige videoer hadde blitt flagget og fjernet mellom april og juni.
På spørsmål om blinde flekker av deres moderasjonsarbeid, hevder sosiale medieplattformer at brukere er i stand til å omgå gjenkjenning ved å bruke tvetydig språk eller hentydninger som algoritmer sliter med å flagge, sa Ahmed.
Begrepet «algospeak» har blitt laget for å beskrive teknikker som å bruke sebra- eller beltedyr-emoji for å snakke om å kutte deg selv, eller det sveitsiske flagg-emoji som en hentydning til selvmord.
Slike kodeord «er ikke spesielt sofistikerte,» sa Ahmed. «Den eneste grunnen til at TikTok ikke kan finne dem når uavhengige forskere, journalister og andre kan er fordi de ikke leter hardt nok,» sa Ahmed.
Ahmeds organisasjon gjennomførte en studie i 2022 som simulerte opplevelsen til en 13 år gammel jente på TikTok.
«I løpet av 2,5 minutter ble kontoene servert selvskadingsinnhold,» sa Ahmed. «I løpet av åtte minutter så de innhold av spiseforstyrrelser. I gjennomsnitt, hvert 39. sekund, presset algoritmen skadelig materiale.»
Algoritmen «vet at spiseforstyrrelse og selvskading er spesielt avhengighetsskapende» for unge jenter.
For Mistre er kampen dypt personlig. Sittende på datterens rom, hvor hun har holdt innredningen urørt de siste tre årene, sa hun at foreldre må vite om farene ved sosiale medier.
Hadde hun visst om innholdet som ble sendt til datteren hennes, ville hun aldri ha tillatt henne på TikTok, sa hun. Stemmen hennes brister når hun beskriver Marie som en «solrik, morsom» tenåring som drømte om å bli advokat.
«Til minne om Marie vil jeg kjempe så lenge jeg har krefter,» sa hun. «Foreldre trenger å vite sannheten. Vi må konfrontere disse plattformene og kreve ansvarlighet.»
Hvis du sliter med selvmordstanker eller opplever en psykisk helsekrise og bor i New York City, kan du ringe 1-888-NYC-WELL for gratis og konfidensiell kriserådgivning. Hvis du bor utenfor de fem bydelene, kan du ringe 24/7 National Suicide Prevention hotline på 988 eller gå til SuicidePreventionLifeline.org.
