Tre tenåringsjenter saksøker Elon Musks xAI for angivelig å ha tillatt bruken av Grok-chatboten for å «nudifisere» bilder av dem – å lage seksuelt misbruk av barn som har spredt seg over sosiale medieplattformer.
En enkelt gjerningsmann arrestert i desember samlet bilder og videoer av mer enn 18 jenter, hvorav mange gikk på samme skole, og brukte Grok til å «kle av» de mindreårige, ifølge et søksmål anlagt mandag i Northern District of California.
Redigert materiale – inkludert ett bilde fra en tenåringsjentes Instagram som fjernet en blå bikini for å «avbilde henne uten noen klær» – ble delt i Telegram- og Discord-kanaler der gjerningsmannen byttet de AI-genererte bildene for «seksuelt eksplisitt innhold fra andre mindreårige,» hevdet søksmålet.
«Dette er barn hvis skolebilder og familiebilder ble omgjort til materiale om seksuelle overgrep mot barn av et milliardselskaps AI-verktøy og deretter handlet mellom rovdyr,» sa Annika Martin fra Lieff Cabraser, en av advokatene som representerer saksøkerne, til The Post i en uttalelse.
«Elon Musk og xAI designet Grok bevisst for å produsere seksuelt eksplisitt innhold for økonomisk vinning, uten hensyn til barna og voksne som ville bli skadet av det,» la hun til.
«Livet til disse jentene har blitt knust av det ødeleggende tapet av privatliv og den dype følelsen av krenkelse som ingen barn noen gang skal måtte oppleve.»
xAI svarte ikke umiddelbart på The Posts forespørsel om kommentar.
I januar, da Grok møtte tilbakeslag for å ha generert en flom av seksualiserte bilder av kvinner, sa Musk at han «ikke var klar over noen nakne mindreårige bilder generert av Grok. Bokstavelig talt null.»
Chatboten vil nekte å produsere noe ulovlig, så vel som «redigering av bilder av ekte mennesker i avslørende klær», selv om hackere kan tukle med verktøyet – men i så fall «fikser vi feilen umiddelbart,» skrev Musk den gang.
I november publiserte Groks konto instruksjoner om hvordan du får tilgang til chatbotens nye «krydret» modus, som kan brukes til å lage «NSFW», eller «ikke trygt for arbeid», innhold – vanligvis refererer til seksuelle eller voldelige bilder.
I følge søksmålet mottok saksøker Jane Doe 1 en Instagram-melding i desember som varslet henne om bilder tatt med Grok som sirkulerte på nettet som viste henne «omdannet til seksuelt eksplisitte positurer», samt en AI-generert video som «avbildet henne kle av seg til hun var helt naken».
Et av bildene ble laget ved hjelp av et fotografi av tenåringsjenta på skolens Hjemkomst-arrangement, mens et annet tilsynelatende endret årsbokfotografiet hennes for å få henne til å se toppløs ut, sa drakten.
Saken påsto at hun har lidd «alvorlig følelsesmessig nød» som et resultat, inkludert tilbakevendende mareritt, problemer med å spise og sove og problemer med å gå på skolen, som har blitt «angstproduserende».
Tenåringsjenta mottok en lenke til en Discord-server «som inneholdt bilder og videoer av minst 18 andre mindreårige kvinner, mange av dem Jane Doe 1 kjente igjen fra skolen hennes», heter det i saken.
Politifolk startet en kriminell etterforskning av gjerningsmannen, som ble arrestert i desember i fjor, ifølge rettsdokumentene. Siktelser mot personen ble ikke spesifisert i rettssaken.
I februar fikk de to andre saksøkerne i saken, begge mindreårige, gjennom etterforskningen vite at gjerningsmannen også hadde brukt bildene deres til å lage materiale om seksuelle overgrep mot barn, het det i søksmålet.
De tre saksøkerne krever erstatning for brudd på barnepornografi, ifølge klagen, som hevder at redigering av bilder av ekte barn for å lage seksuelt innhold utgjør skapelse av barnepornografi.
Søksmålet påsto at xAI bevisst tillot chatboten sin å generere seksuelle bilder av mindreårige med mål om å tjene penger på AI-verktøyene.
Det er sannsynlig at skaden vil hjemsøke tenåringene i flere tiår, ettersom de sannsynligvis vil motta varsler fra National Center for Missing and Exploited Children om at «kriminelle tiltalte har hatt, mottatt eller distribuert CSAM-filer som viser dem» for resten av livet, heter det i søksmålet.
