Elon Musks selskap xAI har saksøkt Minnesota på grunn av statens første-i-nasjonen-lov som forbyr «nudifisering»-teknologi på nettsteder og apper, og gir potensielt en test for hvor langt stater kan gå i å konstitusjonelt regulere bruken av kunstig intelligens.
Musks selskap saksøkte mandag for føderal domstol, dager før loven skal tre i kraft lørdag og gjøre Minnesota til den første staten som prøver å forby den stadig mer utbredte teknologien som lar folk bruke AI til å lage falske nakenbilder av ekte mennesker. Loven ble undertegnet i mai.
I søksmålet på 38 sider sa xAI – hvis AI-modell chatbot og bildegenerator Grok er tilgjengelig på den sosiale medieplattformen kjent som X, tidligere Twitter, og andre steder – at den ikke bestrider statens interesse i å forby distribusjon av AI-genererte nakenbilder av ekte mennesker uten deres samtykke.
Men den sa at Minnesotas lov «strekker seg langt utover dette målet,» som forbyr mange konstitusjonelt beskyttede bilder og videoer og utsetter selskapet for en straff på $500 000 per brudd.
Søksmålet hevder at det ikke er noen «safe harbor»-bestemmelser for selskaper som gjør god tro innsats for å forhindre at slike bilder blir laget av brukere, og at det dekker bilder som ble samtykket til av den avbildede personen, eller til og med laget av denne personen.
Den sier også at lovens definisjon av «intim del» er altfor bred, og dekker kroppsdeler som rutinemessig vises offentlig.
I en uttalelse sa Minnesota riksadvokat Keith Ellison at kontoret hans ikke hadde blitt forkynt for søksmålet ennå eller sett det.
«Men jeg vet at det å bruke AI til å generere nakenbilder av mennesker mot deres vilje er forferdelig. Det er nok av verdige debatter å ha om AI-politikk. Dette er ikke en av dem. AI-nudifisering frarøver målet deres verdighet og kan forårsake enorm skade på et følelsesmessig, personlig og profesjonelt nivå,» sa Ellison.
Statlige lover om dypfalske valg har hatt blandede resultater i domstolene.
Californias lov ble blokkert over talebeskyttelse fra første endring.
Minnesotas lov har så langt overlevd en rettsutfordring i 2025 fra Musks selskap.
Loven er forskjellig fra statlige og føderale lover som forbyr deepfakes, AI-genererte seksuelt eksplisitte bilder av mennesker uten deres samtykke.
Disse lovene straffer vanligvis menneskene som bruker verktøyene til å lage disse bildene, ikke skaperne av verktøyene selv.
Den føderale Take it Down Act, vedtatt i fjor, krever også at nettsteder og apper implementerer en prosess for å fjerne disse bildene.
I søksmålet sa xAI at vilkårene for bruk for bruk av Grok forbyr bruk av det til «enhver ulovlig, skadelig eller fornærmende aktivitet» som krenker noens personvern, inkludert å endre bildet deres for å nakengjøre dem eller avbilde dem i et seksuelt eksplisitt bilde.
Den sa at den håndhever disse reglene mot overtredere gjennom kontosuspensjoner eller oppsigelser, og ved å rapportere mistanke om seksuelt misbruk av barn.
XAI sa også tidligere i år at de har «nulltoleranse for alle former for seksuell utnyttelse av barn, nakenhet uten samtykke og uønsket seksuelt innhold.»
Etter et globalt tilbakeslag over seksualiserte bilder av kvinner og barn, sa Grok i januar at det vil geoblokkere innhold hvis det bryter med lover på et bestemt sted, og hindrer folk i å redigere bilder av ekte mennesker i avslørende klær på steder der det er ulovlig.
Groks «krydret modus» hadde tillatt brukere å lage eksplisitt innhold, noe som førte til et tilbakeslag fra regjeringer over hele verden.
«Vi har implementert teknologiske tiltak for å forhindre at Grok-kontoen tillater redigering av bilder av ekte mennesker i avslørende klær som bikinier, undertøy og annet avslørende antrekk,» sa xAI i en uttalelse fra januar.
