KUALA LUMPUR, Malaysia – Malaysiske myndigheter sa tirsdag at de vil ta rettslige skritt mot Elon Musks sosiale medieplattform X og dens kunstig intelligensenhet xAI, og anklager selskapene for å ikke sørge for sikkerheten til brukere av Grok chatbot.
Flyttingen kom bare dager etter at Malaysia og Indonesia ble de første landene til å blokkere tilgangen til Grok, ettersom bekymringen øker for at den blir misbrukt til å generere seksuelt eksplisitte bilder uten samtykke.
Den malaysiske kommunikasjons- og multimediekommisjonen sa i en uttalelse at den har identifisert misbruk av Grok for å generere og distribuere skadelig innhold, inkludert seksuelt eksplisitt, uanstendig, ekstremt støtende så vel som manipulerte bilder uten samtykke.
Den sa at den sendte meldinger til X og xAI denne måneden for å fjerne det skadelige innholdet, men ingen tiltak er iverksatt.
«Innhold som angivelig involverer kvinner og barn er en sak av stor bekymring. Slik oppførsel er i strid med malaysisk lov og undergraver sikkerhetsforpliktelsene», heter det i selskapene. Kommisjonen har oppnevnt en advokat og sa at rettslige prosesser snart vil starte.
Det er økende gransking av generative AI-verktøy som kan produsere realistiske bilder, lyd og tekst, og bekymring for at eksisterende sikkerhetstiltak ikke klarer å forhindre misbruk av dem.
Lansert i 2023, er Grok gratis å bruke på X. En bildegeneratorfunksjon, Grok Imagine, ble lagt til i fjor og inkluderte en såkalt krydret modus som kan generere vokseninnhold.
Grok har blitt kritisert for å generere manipulerte bilder, inkludert skildringer av kvinner i bikini eller seksuelt eksplisitte positurer, samt bilder som involverer barn.
Grok har kommet under press i EU, India og Storbritannia, som mandag sa at de var i ferd med å kriminalisere «nudifiseringsapper».
Storbritannias medieregulator startet også en etterforskning av hvorvidt Grok brøt loven ved å la brukere dele seksualiserte bilder av barn.
Forrige uke begrenset Grok bildegenerering og redigering til betalende brukere etter et globalt tilbakeslag over seksualiserte deepfakes av mennesker, men kritikere sier at det ikke helt tok opp problemet.
Musk og hans selskaper har ikke offentlig kommentert de sørøstasiatiske restriksjonene. xA1 har gitt et automatisk svar på medieforespørsler som sa «Legacy Media Lies.»
