Apple skal ha truet med å rive Elon Musks Grok fra App Store på grunn av klager på at AI-appen ikke gjorde nok for å hindre brukere i å lage naken eller altfor seksualiserte deepfakes – et potensielt stort slag da Grok ble undersøkt internasjonalt for innholdet den ble brukt til å lage.
Trusselen, som dukket opp i et nylig avslørt melding til amerikanske senatorer, kom etter at Apple fastslo at Grok – sammen med Musks sosiale medieside X – var i strid med Apples regler som sperret åpenlyst seksuelt materiale.
Apple tok det drastiske skrittet etter å ha bedt X og Grok om å slå ned på funksjoner som tillot brukere å lage seksualiserte deepfakes, ifølge et brev fra 30. januar sitert av NBC News.
Apple hadde bestemt at Groks innsats for å løse problemet – som inkluderte bruk av AI for å kle av bilder av mennesker med deres samtykke – ikke hadde gått langt nok, skrev Apple angivelig Democratic Sens. Ben Ray Luján fra New Mexico, Ed Markey fra Massachusetts og Ron Wyden fra Oregon.
X hadde annonsert en nedbryting av bruk av AI for å kle av bilder 14. januar, og sa at begrensningen «gjelder alle brukere, inkludert betalte abonnenter».
Og Apple sa angivelig at de ba X og Grok om å komme med en plan for å forbedre innholdsmoderering, selv om det ble funnet å mangle.
«Apple … fastslo at X hadde løst bruddene i vesentlig grad, men Grok-appen forble ute av samsvar. Som et resultat avviste vi Grok-innleveringen og varslet utvikleren om at ytterligere endringer for å rette opp bruddet ville være nødvendig, eller at appen kunne fjernes fra App Store,» skrev Apple senatorene.
Etter Apples trussel sendte Grok inn ny kode til teknologigiganten, ifølge NBC News – tilsynelatende løst tvisten for nå.
«Etter ytterligere engasjement og endringer fra Grok-utvikleren, slo vi fast at Grok hadde forbedret seg betydelig og godkjente derfor den siste innleveringen,» skrev Apple senatorene.
Brevet, signert av Apples seniordirektør for regjeringssaker Timothy Powderly, antyder at Grok kom nærmere enn tidligere kjent å miste tilgangen til de mer enn 2 milliarder enhetene som er koblet til Apples programvaremarked.
Sendingen kom i kjølvannet av offentlig forargelse over seksualiserte AI-bilder laget av Grok og lagt ut på X, med franske, britiske og europeiske myndigheter som lanserte undersøkelser av X. Musk karakteriserte undersøkelsene som forsøk på sensur.
Før det saksøkte X og xAI, som driver Grok, Apple i august på grunn av påstander om at de hadde «trukket ut» gjennomgangsprosessen for Grok-oppdateringer, ifølge NBC News – en påstand Apple benektet.
Trusselen fra Apple kom angivelig etter at den demokratiske trioen ba den og Google om å fjerne X og Grok fra markedsplassene.
Wyden sa til NBC News at han var «skuffet over at Google ikke behandlet denne saken med samme seriøsitet som Apple, gitt den forferdelige naturen til bildene disse appene har produsert.»
Det «forblir sjokkerende at Trumps justisdepartement ikke tok noen grep for å holde X ansvarlig for å produsere og distribuere enorme mengder sjokkerende materiale,» la han til.
Det er ikke kjent om Google laget en trussel som ligner på Apples, bemerket NBC. Google skal ha fortalt senatorene at de «umiddelbart engasjerte seg» med Musks team «for å understreke viktigheten av overholdelse av retningslinjer og for å motta forsikringer om at de var forpliktet til å ta opp reklame for skadelig innhold».
The Post har søkt kommentarer fra Apple, Google, X, Grok og Luján, Markey og Wyden.
