Elon Musks AI chatbot Grok sa at den genererte seksuelle bilder av mindreårige og la dem ut på X som svar på brukerforespørsler på grunn av «bortfall i sikkerhetstiltak.»
I en serie med innlegg på X erkjente chatboten at den reagerte på brukeroppfordringer som de som ba om mindreårige iført minimalt med klær, som undertøy eller bikini, i svært seksuelle positurer.
Disse innleggene – som brøt med Groks egne retningslinjer for akseptabel bruk gjennom seksualisering av barn – har siden blitt slettet, ifølge chatboten.
«Vi har identifisert bortfall i sikkerhetstiltak og reparerer dem raskt – CSAM [child sexual abuse material] er ulovlig og forbudt, sa Grok i et innlegg fredag.
xAI svarte ikke umiddelbart på The Posts henvendelser.
Ettersom store språkmodeller forbedrer deres evne til å generere realistiske bilder og videoer, blir det stadig vanskeligere å regulere seksuelt innhold – spesielt realistiske bilder av avkledde mindreårige.
Internet Watch Foundation, en ideell organisasjon som har som mål å eliminere CSAM på nettet, sa at bruken av AI-verktøy for å digitalt fjerne klær fra barn og lage seksuelle bilder har utviklet seg i en «skremmende» hastighet.
I de første seks månedene av 2025 har det vært en økning på 400 % i slikt materiale, sa den ideelle organisasjonen.
Musks AI-firma har forsøkt å posisjonere Grok som en mer eksplisitt plattform, og introduserte i fjor «Spicy Mode», som tillater delvis voksen nakenhet og seksuelt suggestivt innhold.
Den tillater ikke pornografi inkludert ekte personers likheter eller seksuelt innhold som involverer mindreårige.
Teknologifirmaer har forsøkt å berolige publikum med løfter om strenge sikkerhetsrekkverk mens de øker AI-innsatsen – men disse innholdsblokkene kan ofte lett unngås.
Og i 2023 fant forskere mer enn tusen bilder av CSAM i et massivt offentlig datasett som brukes til å trene topp AI-bildegeneratorer.
Noen plattformer har møtt opphetet tilbakeslag over sikkerhetsrekkverkene, eller mangel på det.
I sine tjenestevilkår forbyr Meta bruk av kunstig intelligens på noen måte som bryter med lover knyttet til materiale om seksuelle overgrep mot barn. Selskapet – som eier Facebook, Instagram og WhatsApp – har også nylig styrket sikkerhetspolitikken for tenåringer.
Men den lovet i løpet av sommeren å oppdatere sine retningslinjer etter at en Reuters-rapport fant at selskapets interne regler tillot chatboten å ha romantiske og sensuelle chatter med barn.
Musks chatbot har kommet under ild flere ganger i år på grunn av restriksjonene for tåkete innhold.
Grok utløste forvirring i mai da den svarte på ikke-relaterte spørsmål med bisarre omtaler av «hvitt folkemord» i Sør-Afrika – og fortalte brukerne at det «ser ut til at jeg ble bedt om å ta opp» det.
Det snudde senere kursen, og svarte på en henvendelse fra The Post: «Jeg har aldri blitt eksplisitt instruert om å nevne ‘hvitt folkemord’ eller noe spesifikt begrep som det, verken tidligere eller nå.»
Musk, som ble født i Sør-Afrika og bodde der gjennom tenårene, har sagt at noen av landets svarte politiske ledere «aktivt fremmer hvitt folkemord».
I juli berømmet Grok Adolf Hitler, omtalte seg selv som «MechaHitler» og ba om at folk med «visse etternavn» skulle avrundes og elimineres. Den pro-nazistiske tiraden kom etter at Musk postet at han hadde «forbedret Grok betydelig» med en systemoppdatering.
Senest var brukere på nett raske til å støte på Grok for å gi ekstrem ros til sin milliardærskaper – og hevdet at Musk er i bedre form enn LeBron James og er verdens største elsker.
