Instagram vil begynne å proaktivt varsle foreldre hvis barnet deres gjentatte ganger søker etter innhold relatert til selvmord innen en kort tidsramme, kunngjorde selskapets representanter torsdag.
Fra og med neste uke vil flaggesystemet være tilgjengelig for mødre og pappaer som bruker Instagrams verktøy for foreldretilsyn.
«Disse varslene er utformet for å gi foreldre den informasjonen de trenger for å støtte tenåringen og kommer med ekspertressurser for å hjelpe foreldre med å nærme seg disse sensitive samtalene,» skrev Meta, som eier Instagram, Facebook og Whatsapp, i et blogginnlegg.
I henhold til retningslinjene vil foresatte bli varslet når barna deres bruker «setninger som antyder at en tenåring ønsker å skade seg selv, og begreper som «selvmord» eller «selvskading».
Disse varslene vil bli videresendt til deres e-post, tekstmelding eller WhatsApp, avhengig av kontaktinformasjonen de har oppgitt, sammen med et varsel i appen.
Inkludert i nevnte varsling vil være ressurser som vil hjelpe foreldrene til å nærme seg «potensielt sensitive samtaler» med tenåringen.
«Vi forstår hvor sensitive disse problemene er, og hvor plagsomt det kan være for en forelder å motta et varsel som dette,» skrev Meta. «Målet vårt er å gi foreldrene mulighet til å gripe inn hvis tenåringenes søk tyder på at de kan trenge støtte.»
Teknologigiganten lovet å «unngå å sende disse varslene unødvendig», da overdrevne varsler kan redusere deres nytte.
Verktøyet vil rulle ut i USA, Storbritannia og Australia med planer om å implementere det i andre land også.
Meta planlegger også å implementere et lignende advarselssystem for foreldre for «visse AI-opplevelser» som vil varsle foreldre hvis termer relatert til selvmord eller selvskading dukker opp i samtaler med Chatbots.
I løpet av det siste året har flere foreldre anlagt søksmål mot OpenAI, med påstand om at flaggskipets chatbot ChatGPT fikk tenåringene deres til å begå selvmord.
Metas beskyttelse mot selvskading kommer som den er, og rivaliserende teknologifirmaer er involvert i søksmål som involverer unge mennesker som hevder å ha blitt skadet av teknologien.
Forrige uke vitnet Meta-sjef Mark Zuckerberg under en landemerke rettssak i Los Angeles, der en saksøker hevdet at de hadde blitt avhengige av apper som Instagram mens de var mindreårige, noe som førte til depresjon og selvmordstanker.
Under sitt vitnesbyrd innrømmet den tekniske stormannen at det var «veldig vanskelig å holde barn under 13 år unna plattformene».
Imidlertid hevdet han at eiere av mobiloperativsystemer og appbutikker som Apple og Google var i en bedre posisjon til å verifisere brukernes alder enn app-produsentene.
