Den britiske lovgiveren Jess Asato saksøker Elon Musks xAI, og sa i en uttalelse onsdag at Grok AI-plattformen ble brukt til å lage falske seksualiserte bilder av henne.
Grok, distribuert gjennom Musks sosiale medieplattform X, er for tiden gjenstand for reguleringsundersøkelser i flere land etter et ramaskrik tidligere i år over bruken av det til å lage seksualiserte bilder uten samtykke.
«Grok skapte dypfalsk pornografi og seksualisert innhold som skadet tusenvis av kvinner og barn,» sa Asato, som er medlem av statsminister Keir Starmers Arbeiderparti, i en uttalelse.
«Dens evne er ikke en ulykke eller misbruk, den er et designvalg av dens skapere. Når jeg lanserer denne saken, forfølger jeg ansvarlighet for disse valgene.»
xAI svarte ikke umiddelbart på en forespørsel om kommentar.
I midten av januar sa xAI at det begrenset bilderedigering i Grok, og blokkerte brukere fra å generere bilder av mennesker i avslørende klær i «jurisdiksjoner der det er ulovlig».
I begynnelsen av februar fant Reuters at selv etter nye fortauskanter, fortsatte Grok å generere seksualiserte bilder av mennesker selv når brukere eksplisitt advarte om at forsøkspersonene ikke samtykker.
xAI er en del av Musks rakett- og romutforskningsselskap SpaceX, som forventes å lansere det som kan bli den største børsnoteringen i historien senere denne måneden.
Uttalelsen fra Asatos kontor sa at etter at hun fordømte Grok i januar, opprettet og delte brukere falske bilder som skildrer henne i bikini og en video som viser at hun «blir kloroformert og forberedt på et seksuelt overgrep».
I mars saksøkte City of Baltimore xAI, og hevdet at Groks evne til å lage falske seksualiserte bilder var i strid med byens lov om forbrukerbeskyttelse.
Advokatfirmaet AWO sa at Asato hadde fremmet et krav til High Court i England for brudd på databeskyttelsesloven og misbruk av hennes private informasjon. Hun søker rettsmidler inkludert erstatning, en formell erkjennelse av at det som skjedde med henne var ulovlig og en ordre som krever at xAI stopper all ytterligere ulovlighet.
«Dette er et av de første påstandene om å teste ansvar for utformingen av et AI-system, og vi håper det vil gjøre det klart for AI-utviklere at sikkerhet ikke kan være en ettertanke,» sa Ravi Naik, juridisk direktør i AWO.
