Karen Flowers, en 49 år gammel skjønnhetsinfluencer med base i Virginia, ble nylig tilsendt en YouTube-annonse av sin fetter. Klippet inneholdt en enhet som så ut akkurat som Flowers som promoterte et livsforsikringsselskap, men det var faktisk ikke henne. Det var en deepfake laget ved å bruke hennes likhet.
«[My cousin] sa: ‘Jeg ser på det. Det er deg. Men jeg vet at det ikke er deg,» sa Flowers, grunnleggeren av Curl House, en serie holistiske hårpleieprodukter, til The Post. «Det er klart at det var mitt bilde. Jeg så på den og visste nøyaktig hvilken YouTube-video den kom fra. Leppene mine var synkronisert med ordene, men det hørtes ikke ut som meg.»
Rogue gjenger i fjerntliggende land stjeler bildene av sosiale medier-stjerner og bruker dem om til egne formål – ofte for å lage fabrikkerte annonser for produkter de aldri har hørt om. Influencers, hvis levebrød er avhengig av deres hardt tilvinnede troverdighet og forhold til tilhengerne, finner seg maktesløse til å stoppe det.
«Det er grusomt,» sa Flowers.
893 millioner dollar flyktet
Det er vanskelig å kvantifisere nøyaktig hvor stort problemet er, men Google saksøkte nylig et kinesisk nettverk kalt Outsider Enterprise.
Den påståtte nettkriminalitetsgruppen er anklaget for å ha brukt Googles kunstige intelligensverktøy for å lage falske nettsider og presse ut mer enn 100 000 økonomiske svindel. I mellomtiden, ifølge FBI, ble copycatting brukt av nettkriminelle for å lemle amerikanere ut av rundt 893 millioner dollar i 2025 alene.
Trenden med å stjele folks likheter startet med kjendiser. I årevis, i en lavteknologisk versjon av svindelen, har kriminelle laget sosiale medier-kontoer som ser ut til å tilhøre kjendiser, og deretter kontaktet folk som utgir seg for å være dem, og bedt om penger eller gavekort.
I løpet av det siste året eller så har Oprah Winfrey, Kim Kardashian, Gwyneth Paltrow og andre kjendiser alle fått bildene sine kapret og brukt i dypfalske videoer, ofte med salg av usannsynlige produkter.
I 2024 ble Taylor Swift skapt til å se ut som hun ledet en online giveaway av dyre Le Creuset kokekar. YouTube-stjernen MrBeast så ut til å selge iPhones for $2 hver hvis «du er en av de heldige 10 000 menneskene,» ifølge en video. Senere dro han til X for å sprenge «den dype falske svindelen av meg».
Selv den geniale Tom Hanks har blitt truffet. I 2023 ble han omgjort til en pitchman for en tannlegeplan. «Jeg har ingenting med det å gjøre,» advarte han fans på Instagram.
Året før saksøkte gründer og TV-personlighet Bethenny Frankel TikTok for at bildet hennes ble brukt uten tillatelse. Hun anklaget plattformen for å unnlate å stoppe dypfalske annonser som ifølge NBC News viste henne å selge forfalskede designercardigans «med hvilke [Frankel has] ingen tilknytning,» og siterte skade på hennes personlige merkevare.
I følge NBC News la Frankel opp et TikTok-innlegg «med den hensikt å informere forbrukere om bedraget», bare for at TikTok skulle fjerne det, og anså innlegget som «fornærmende».
«Dette må løses,» sa Frankel på «Good Morning America.» «Det største problemet er TikTok og det ville, ville vesten til sosiale medier.»
Saken gikk til voldgift, og Frankels folk sa at de «ikke har informasjon om hvor søksmålet står for øyeblikket.» TikTok svarte ikke på en forespørsel om kommentar.
«Good Morning America» la en uttalelse fra TikTok som delvis sa: «Vi har strenge retningslinjer for både å beskytte folks hardt opptjente intellektuelle eiendom og holde villedende innhold utenfor TikTok.»
Kjempe tilbake
I motsetning til A-lister og enorme realitystjerner, mangler influencere og «mikrokjendiser» ofte midler til å slå tilbake, og å spore opp svindlerne kan være nesten umulig.
«Jeg så opp selskapet [that had the digitally recreated version of me] og det tok meg til et skjellselskap,» sa Flowers. «Jeg kunne aldri nå dem. Jeg visste ikke hvor jeg skulle sende et stopp-og-avstå-brev.»
Til slutt gikk en forbrukeradvokat fra hennes hjembys nyhetsstasjon i Virginia inn og fikk YouTube til å fjerne den falske reklamen.
YouTube svarte ikke på en forespørsel om kommentar, selv om Flowers, som har 102 000 følgere på plattformen, erkjente: «Jeg klandrer ikke YouTube. Jeg føler at disse selskapene tar igjen AI, som er kommet for å bli.»
Kara Mendelsohn, en moteinfluenser med 125 000 Instagram-følgere som jobbet for Calvin Klein på 1990-tallet, har også fått bildet sitt stjålet og brukt mot hennes ønsker.
Hun la ut et stillbilde fra en av annonsene til Instagram Stories, og skrev: «Dette er IKKE meg! Dette selskapet har stjålet bildet mitt og stemmen min for å lage denne AI-annonsen. Det er også en for en GLP1 som IKKE er meg! Jeg hater dette, og Instagram gjør ingenting for å fjerne dette.»
Oppdager svindel
Meta – som eier Instagram og Facebook – fortalte The Post at identifisering av denne typen innhold kan være en utfordring ettersom teknologien stadig utvikler seg, men sa at den kontinuerlig jobber med å forbedre systemene sine og komme et skritt foran.
Selskapet råder brukere til å vurdere flere faktorer for å prøve å finne ut om innhold har blitt opprettet som en deepfake. De inkluderer å sjekke påliteligheten til kontoen som deler innholdet og se etter detaljer som kan virke unaturlige.
Bildetyveri kan snike seg inn på en person på de mest uventede tidspunktene. Nassia Matsa, en London-basert modell og journalist, kjørte på byens undergrunnsbane da hun fortalte The Post: «Jeg så en annonse med noen som så ut som meg. Det føltes veldig uhyggelig. Bildet kom fra en redaksjon som jeg laget for et Paris-basert magasin tilbake i 2019.
«[The entity that did the phony ad] valgte forskjellige modeller for å virke moderne og relevante, en veldig performativ handling, siden ingen av oss fikk betalt eller til og med samtykket til å være en del av denne annonsen.»
Nylig ble «skinfluencer» Arielle Lorre, 40 og basert i Los Angeles, urolig over å finne en deepfake av seg selv som fosset om et hudpleieprodukt fra et selskap som heter Skaind, som hun aldri hadde jobbet med, i et intervju. Mannen som ga intervjuet i kampanjen skrev til X at bildet hans også var stjålet.
«Du kan forestille deg hvor foruroligende det er å se deg selv si ting du aldri har sagt, sitte i et intervju du aldri har sittet i,» sa hun til Inc. magazine. «Ikke bare er det ulovlig, men det utvanner også merkevaren min.»
Problemstillingen understreker hva som kan skje når dårlige skuespillere bruker sosiale medier og kunstig intelligens for sine egne ondsinnede midler. Det hele fører hjem til et poeng som Frankel sa på «Good Morning America» om videoer på nettet.
«Jeg vil at folk skal vite at du må gå inn på egen risiko,» sa Frankel. «Du må ikke operere fritt, du må beskyttes.
