Den europeiske union har formelt startet en etterforskning av Elon Musks sosiale medieselskap X over det de beskrev som dype forfalskninger av avkledde kvinner og barn generert av den etterretningsdrevne chatboten Grok.
EUs utøvende arm, EU-kommisjonen, sa mandag at den undersøker om Musks teknologiselskap brøt loven om digitale tjenester, som krever at plattformer som X skal forhindre spredning av manipulerte seksuelt eksplisitte bilder inkludert materiale om seksuelt misbruk av barn.
«Seksuelle dype forfalskninger av kvinner og barn er en voldelig, uakseptabel form for fornedrelse,» sa Henna Virkkunen, EU-kommisjonens konserndirektør for overvåking av teknologi, i en uttalelse.
«Med denne undersøkelsen vil vi avgjøre om X har oppfylt sine juridiske forpliktelser i henhold til DSA, eller om den behandlet rettighetene til europeiske borgere – inkludert kvinner og barn – som en skade på tjenesten.»
Kommisjonen siterte det den kalte den påståtte «spredningen av ulovlig innhold, negative effekter i forhold til kjønnsbasert vold og alvorlige negative konsekvenser for fysisk og mentalt velvære som stammer fra utplassering av Groks funksjoner på plattformen» i lanseringen av sonden.
EU-tjenestemenn advarte X kan få straffer på opptil 6 % av globale årlige inntekter hvis brudd bekreftes.
Musks Grok AI-bot utløste raseri sent i fjor etter at X-appen ble oversvømmet med bilder av kvinner hvis utseende ble digitalt endret for å få dem til å se ut som de var i bikini eller undertøy, selv om de originale bildene viste dem fullt påkledd.
Endringene ble gjort da brukere kunne be Grok kle av dem uten deres forhåndssamtykke.
En analyse utført av forsker Genevieve Oh fant at Grok genererte omtrent 7 750 seksuelt antydende eller «nudifiserende» bilder i timen.
Ashley St. Clair, den sosiale media-influenseren som fødte en spedbarnsgutt som ble far til Musk, anla søksmål mot milliardærens AI-oppstart, xAI, som skapte Grok.
Hun påsto i en rettssak at Musks bot genererte dypt falske bilder av henne som et nakent barn og gjengjeldte henne – ved å demonetere X-kontoen hennes – da hun krevde at trakasseringen skulle stoppe.
Tidligere denne måneden flyttet Musks selskap for å slå ned på deepfakes. Grok fortalte brukerne i begynnelsen av januar at «bildegenerering og -redigering er for øyeblikket begrenset til betalende abonnenter.»
Musk la også ut at folk som bruker Grok for å lage ulovlig innhold, ville «lide de samme konsekvensene» som om de lastet opp slikt innhold.
Regulatorer utenfor EU beveget seg raskt for å granske Grok ettersom tilbakeslaget spredte seg over deepfakes.
I Storbritannia startet medievakthunden Ofcom en formell etterforskning av chatboten, med henvisning til bekymringer som ligner på de som ble reist i Europa om opprettelsen og spredningen av seksuelt eksplisitte og potensielt ulovlige bilder.
Myndigheter i Australia, Frankrike og Tyskland har også åpnet etterforskning av Grok angående den seksuelle dypfalske-kontroversen, som er en del av en bredere, koordinert internasjonal respons.
Mens de spesifikke reguleringsorganene og håndhevelsesmekanismene varierer, siterte tjenestemenn i hvert land den samme kjernebekymringen: at Grok muliggjorde seksuelliserte bilder uten samtykke av ekte mennesker, inkludert mindreårige, i stor skala.
I USA har det kommet tiltak på delstatsnivå, med Rob Bonta, Californias statsadvokat, som kunngjorde en etterforskning.
I Asia har regulatorene gått lenger.
Indonesia og Malaysia innførte begge midlertidige forbud mot Grok, selv om Malaysia senere opphevet restriksjonen.
En representant for Musk var ikke umiddelbart tilgjengelig for kommentar.
