En tredjedel av amerikanske tenåringer sier at de har blitt utsatt for dypfalske nakenbilder – og mer enn halvparten innrømmer at de har laget AI-generert pornografi selv, avslørte en svimlende ny undersøkelse.
Foreldre til elever som har blitt målrettet av AI-nakenbilder sier at de har liten utvei når klassekamerater bruker apper for å sette barnas ansikt på nakne kropper.
I dag risikerer «alle med ett enkelt bilde av seg selv på nettet» å få identiteten sin brukt til å lage seksualisert AI-innhold, advarte Hany Farid, en digital rettsmedisinsk professor ved University of California, Berkeley.
«Det er urovekkende enkelt» å lage slike bilder, takket være «mange gratis og brukervennlige apper og tjenester» som nå er tilgjengelig på nettet, sa Farid.
«Dette problemet påvirker unge og gamle, kjente og ikke, gutter og jenter, menn og kvinner … skadene er målbare og ekte og forferdelige,» la han til.
Av de 557 tenåringene som nylig ble undersøkt av forskere ved George Mason University, sa alarmerende 33 % – eller 185 respondenter – at et seksualisert AI-bilde av dem hadde blitt delt uten deres samtykke.
Enda mer urovekkende, bruken av «nudifisering»-programvare så ut til å være mer utbredt blant 13- til 17-åringer, med 55 % av deltakerne – eller 308 tenåringer – innrømmet å ha skapt en dypt falsk nakenbilde og 54 % – 303 respondenter – innrømmet å ha mottatt minst ett seksuelt AI-bilde.
Chad MS Steel, en digital rettsmedisinsk forsker ved George Mason som ledet studien, sa at de urovekkende tallene gjenspeiler tenåringenes økende skifte mot å leve og sosialisere på nettet.
«Denne avlingen av barn er GenAI-innfødte,» sa Steel til The Post. «Siden de fikk sine første telefoner, har det vært AI inkludert, og dette er måten de opererer på over hele linja – enten det er å gjøre lekser eller leke.
«I tillegg har du alt fra kamerafiltre til å «prøve det på» apper som gjør det normalt å ta et bilde av seg selv og få det modifisert. Dette er ting de vokste opp med og er hjemmehørende i, som jeg tror har stor innflytelse på tallene.»
Steel sa at han opprinnelig forventet at rundt 30 % av tenåringene skulle rapportere bruk av nudifiseringsprogramvare, men ble «virkelig sjokkert» over de endelige resultatene – spesielt hvor ofte seksuelle AI-bilder ble spredt uten samtykke.
Joseph Daniels vet fra første hånd hvor vanlige og ødeleggende disse bildene er – datteren hans hadde et «ekstremt eksplisitt», dypt falskt bilde av henne som ble delt rundt på skolen i august da hun bare var 13.
En dag, etter å ha sett det falske bildet bli sendt rundt på en skolebuss, knipset den ødelagte tenåringen og slo gutten som hun hevdet laget den. Hun ble snart utvist og tvunget til å flytte skoler, husket faren.
«Hun har møtt angst, problemer med depresjon, å måtte bytte skole – det har tatt en stor toll på henne,» sa Daniels til The Post.
«Det er en skummel følelse, spesielt å se hvordan disse deepfakes ser så ekte ut, og jeg kan bare se effekten det har tatt på datteren min, så jeg kan forestille meg hva det ville gjøre med andre barn og deres familier,» beklaget han.
Faren nektet å kommentere «ventende rettssaker» mot skolen, men han planla å anlegge et føderalt søksmål mot tjenestemenn for å ha unnlatt å gripe inn før situasjonen eskalerte, har han og advokatene hans tidligere hevdet.
Daniels sprengte «manglen på ansvarlighet» som ofte oppstår for falske gjerningsmenn på skolenivå – og insisterte på at foreldrene måtte stille inn.
«Foreldre må være mer bevisste på hva som er på barnas telefoner og datamaskiner og kanskje bli oppdatert på appene og nettstedene de har i disse dager, fordi det er mye mer enn vi hadde,» sa han.
«Selvfølgelig er barn nysgjerrige, og [teens] er i en alder hvor de er enda mer nysgjerrige … men de kan definitivt komme i trøbbel ved å gjøre ting som de ikke forstår konsekvensene av, eller hvordan dette kan påvirke dem i fremtiden, la han til.
New Jersey-moren Dorota Mani, hvis da 14 år gamle datter Francesca ble et offer for en dypfalsk naken som ble sirkulert på hennes videregående skole i oktober 2023, har siden blitt en frittalende talsmann for loven.
Men langt mer må gjøres, sa hun tirsdag.
«Teknologien som brukes til å lage falske nakenbilder har blitt allment tilgjengelig, mens bevissthet, sikkerhetstiltak og juridisk beskyttelse har slitt med å følge med,» sa Mani.
«Uansett hvem som lager eller deler disse bildene, er skaden reell, og den burde være ulovlig.»
Samtidig må skoler og foreldre gjøre mer for å lære unge mennesker om digitalt medborgerskap, etikk på nett, samtykke og konsekvensene av å misbruke teknologi, sa Mani.
Undersøkelsens dystre funn «bør være en vekker: utdanning må være i sentrum for forebygging,» sa hun.
