En 36 år gammel farmasøyt og far til en har blitt avslørt som arkitekten for en av verdens største dype falske pornosider, ifølge en ny dokumentar.
David Do, som fremstilte seg selv som en kjærlig familiemann og bærebjelken i sitt lokale Toronto-samfunn, ble avdekket etter en årelang etterforskning av veteranen teknologijournalist Laurie Segall, i en serie presentert av hotellarvingen Paris Hilton.
Mr Deepfakes – nettstedet han eide og drev – inviterte brukere til å lage dyp falsk pornografi uten samtykke ved å bruke bilder av kjendiser, venner, familie, bekjente eller bare tilfeldige bilder hentet fra internett.
Nettstedet, som på sitt høydepunkt hadde over 17 millioner månedlige brukere, opererte i et lovlig smutthull – med null ansvarlighet og konsekvenser, men med tusenvis på tusenvis av ofte fullstendig intetanende ofre.
Da Segall imidlertid avdekket Mr Deepfakes sin identitet, ble hun sjokkert over hans fars identitet – en godt likt nabo som levde et parallelt liv som farmasøyt.
«Offline, du kunne ikke få et vondt ord om ham. Vi fant et Instagram-innlegg av ham som jobbet på et sykehus under COVID,» sa Segall til The Post.
Men faren til en, som bodde i et beskjedent hus i et hyggelig nabolag og kjørte familiebil, angret ikke da Segall konfronterte ham.
«Jeg ble rystet fordi det ikke var det at han ikke var redd,» husket hun. «Det var mer som «hvordan tør du dukke opp her».
«Grunnen til at jeg satte meg for å gjøre denne historien er det [what Do did] kan gjøre unge gutter til en person som synes det er ok å kle av noen digitalt,» sa Segall om nettstedet som tillot hvem som helst å lage falsk – delbar – porno med bare et fotografi av noen.
«Det føltes så utrolig dystopisk. Jeg husker at jeg så på dette og tenkte hvordan i all verden får dette lov til å eksistere.
«Jeg snakker til ofre som ønsker å avslutte livet,» la hun til.
I forrige uke lanserte Segall sin omfattende 14-delte etterforskning på TikTok sammen med Paris Hilton, som sa at hun ble med i arbeidet med å avsløre Do, fordi «dette kan skje hvem som helst.»
Etterforskningen rammet også nær hjemmet for Hilton, som angivelig har over 100 000 eksplisitte deepfakes av seg selv på nettet.
Da Hilton var 19, ble en intim video av henne distribuert uten hennes samtykke.
«Det var ingen lover for å beskytte meg,» sa Hilton. «Hvis jeg kan gjøre det slik at andre jenter ikke trenger å gå gjennom det jeg gikk gjennom, er det så meningsfullt for meg.
«Det var som å bli voldtatt digitalt og få hele verden til å se det og le […] Det er noe jeg må leve med resten av livet.»
Etterforskningen startet i 2022 etter at Segall, en tidligere CNN-teknologikorrespondent, mottok et tips om nettstedet gjennom sosiale medier.
Journalisten fant et nettsamfunn som laget og delte svært realistiske AI-genererte seksuelle videoer med kvinner uten deres samtykke.
Det som forstyrret henne mest var ikke bare innholdet i seg selv – det var diskusjonsforaene rundt det.
Brukere diskuterte åpent å lage falske eksplisitte videoer av kvinner de kjente personlig, inkludert slektninger, kolleger og bekjente.
Segall bemerket at noen brukeres fantasier treffer urovekkende nær hjemmet, inkludert en kommentator som sa: «Er det galt at jeg vil forfalske svigerinnen min.»
Overbevist om at noen måtte holdes ansvarlige, lanserte Segall en digital jakt.
Hun vervet cybersikkerhetsekspert David Kennedy – som hun beskrev som en av landets beste etiske dekodere – og teamet hans av «flinke hackere» for å hjelpe med å spore den anonyme operatøren.
Kennedy sa at etterforskerne hans brukte åpen kildekode etterretningsteknikker, og sporet opp fragmenterte ledetråder på nettet og digitale fotavtrykk som ble lagt igjen på nettet.
Underveis kom dusinvis av kvinner frem og hevdet at de hadde blitt ofre for dypfalske overgrep.
Et av de omtalte ofrene i serien var Los Angeles-bosatt Joanne Chew, som ble forferdet etter å ha søkt etter sitt eget navn på nettet og oppdaget eksplisitte AI-genererte videoer med ansiktet hennes.
Chew sa at opplevelsen knuste den vanlige misforståelsen om at bare kjendiser er målrettet og gjorde at hun følte seg fratatt eierskap over sitt eget image og identitet.
Duoen satte også søkelyset på Molly Kelley, som fikk vite at ektemannens beste venn angivelig hadde brukt AI-verktøy for å generere eksplisitt falskt innhold med henne og en rekke andre kvinner i livet hans.
«Teknologien eksisterer for å lage en versjon av meg som kan gjøre ting på nettet som jeg aldri ville gjort, og for å gjøre seksuelle handlinger som jeg aldri har gjort,» sa Kelley.
Etter hvert som Segalls etterforskning skjøt fart, kom et uventet tips fra en liten anti-deepfake-gruppe i Nederland.
Tipset førte Segall til den nederlandske forskeren Jordy Ubanski, hvis team hadde brukt måneder på å spore digitale brødsmuler på tvers av fora, brukernavn, e-postadresser og arkiverte innlegg.
I følge etterforskningen trodde han at brødsmulene til slutt pekte på en kanadisk farmasøyt ved navn David Do.
Serien dokumenterer Segalls påfølgende tur til Canada, hvor hun og teamet hennes forsøkte å kontakte Do på flere steder, inkludert adresser knyttet til ham og senere på sykehuset der offentlige registre indikerte at han jobbet.
«Vi har sterke bevis på at du står bak Mr. Deepfakes. Vi har prøvd å komme i kontakt,» sa hun til Do, som nektet å kommentere.
I mellomtiden sa Kennedy at teamet hans hadde utviklet omfattende bevis som støtter identifiseringen.
Nettsikkerhetseksperten sa at Do matchet det digitale sporet (som stammer fra et 8chan-innlegg) på «hver vei, form eller form», og at de hadde flere uavhengige metoder for bekreftelse.
Segall sa at problemet går langt utover et enkelt nettsted, og la til at det å bli forelder forsterket hennes og Hiltons frykt for at AI går raskere frem enn beskyttelsen som er laget for å begrense den.
Etterforskningen falt til slutt sammen med økende press fra journalister, lovgivere, teknologiselskaper og talsmenn.
Ifølge Segall la Mr. Deepfakes ned i 2025 etter syv år på nett og milliarder av visninger.
Hilton har siden fortsatt presset på for lovgivning som tar sikte på å beskytte ofre for AI-generert skade, inkludert talsmann for DEFIANCE Act.
Den lange serien slo an hos seerne, mange av dem oversvømmet realitystjernens kommentarfelt med lovord.
Men for Segall er håpet hennes å holde skaperne ansvarlige – og å hindre unge gutter fra å tro at dypfalsk porno bare er et spill.
«Kanskje dette var en fyr som virkelig bare elsket AI og teknologi og bare hadde en merkelig pornogreie og bare ikke forsto dybden av det han gjorde,» sa Segall om interaksjonen hennes med Do.
«Forsto han skaden? Jeg ville spørre ham.»
Men den dag i dag nekter sin far Do å svare på noen av disse påstandene.
