Australias internettregulator sa at det kan presse søkemotorer og appbutikker til å blokkere kunstig intelligens-tjenester som ikke klarer å verifisere brukernes alder etter at en Reuters-gjennomgang fant at mer enn halvparten ikke hadde offentliggjort noen skritt for å overholde innen en frist neste uke.
Advarselen gjenspeiler en av de mest aggressive anstrengelsene globalt for å tøyle AI-selskaper, som står overfor et økende antall søksmål for ikke å stoppe – og til og med oppmuntre – selvskading eller vold mens forskere advarer om at slike plattformer er mer skadelige for ungdommens mentale helse enn sosiale medier.
Australia ble i desember det første landet som forbød sosiale medier for tenåringer, med henvisning til bekymringer for psykisk helse, noe som førte til en strøm av verdensledere som sa at de ville gjøre det samme. Landet sier nå at det går i spissen for et lignende angrep på AI ved å sette aldersbegrensninger på innholdet folk kan få tilgang til med teknologien.
Fra og med 9. mars må internetttjenester i Australia, inkludert søkeverktøy som OpenAIs ChatGPT og mindre kjente følgechatboter, begrense australiere under 18 år fra å motta pornografi, ekstrem vold, selvskading og spiseforstyrrelsesinnhold eller møte bøter på opptil 49,5 millioner australske dollar ($35 millioner).
«eSafety vil bruke hele spekteret av våre krefter der det er manglende overholdelse,» sa en talsperson for kommisjonæren, inkludert «handling med hensyn til portvakttjenester som søkemotorer og appbutikker som gir viktige tilgangspunkter til bestemte tjenester».
OpenAI og medfølgende chatbot-oppstart Character.AI har møtt urettmessige dødssøksmål på grunn av deres interaksjoner med unge brukere, mens OpenAI erkjente denne uken at den deaktiverte ChatGPT-kontoen til en mistenkt tenåringsmasseskyting i Canada måneder før angrepet, uten å fortelle myndighetene det.
Australia har ennå ikke opplevd rapporter om chatbot-tilknyttet vold eller selvskading, men regulatoren har rapportert å ha blitt fortalt om barn helt ned til 10 år som snakker med de AI-drevne interaktive verktøyene opptil seks timer om dagen.
eSafety var «bekymret for at AI-selskaper utnytter emosjonell manipulasjon, antropomorfisme og andre avanserte teknikker for å lokke, innlede og forankre unge mennesker til overdreven bruk av chatbot», sa talspersonen.
Topp appbutikkoperatør Apple svarte ikke, men sa på sin nettside i forrige uke at de ville bruke «rimelige metoder» for å stoppe mindreårige som laster ned 18+ apper i Australia og andre jurisdiksjoner som innfører aldersbegrensninger, uten å spesifisere metodene.
En talsperson for Google, Australias dominerende søkemotorleverandør og nr. 2 appbutikkoperatør, nektet å kommentere.
Jennifer Duxbury, leder for policy ved internettindustrigruppen DIGI, som ledet utformingen av AI-koden før den ble signert av regulatoren, sa at eSafety prøvde å varsle chatbot-tjenester om de nye reglene, men «til syvende og sist er enhver tjeneste som opererer i Australia ansvarlig for å forstå sine juridiske forpliktelser og sikre at den oppfyller dem.»
En uke før Australias deadline, av de 50 mest populære tekstbaserte AI-produktene, hadde ni rullet ut eller annonsert planer for alderssikringssystemer, fant Reuters-gjennomgangen. Gjennomgangen var basert på hver plattforms svar på forespørsler som ber om retningslinjer for begrenset innhold og moderering, publiserte uttalelser inkludert vilkår for bruk og uttalelser til Reuters.
Ytterligere 11 plattformer hadde generelle innholdsfiltre eller planla å blokkere alle australiere fra å bruke tjenesten deres, tiltak som ville være i samsvar med den nye loven ved å holde begrenset innhold fra alle brukere, og etterlate 30 uten noen åpenbare tiltak for å følge de nye reglene, fant anmeldelsen.
De fleste store chat-baserte søkeassistenter som ChatGPT, Replika og Anthropics Claude hadde begynt å rulle ut aldersforsikringssystemer eller teppefiltre. Chatbot-leverandøren Character.AI kuttet åpen chat for under 18 år.
Companion chatbot-leverandørene Candy AI, Pi, Kindroid og Nomi fortalte Reuters at de planla å overholde uten å utdype, mens HammerAI sa at de ville blokkere tjenestene deres fra Australia i utgangspunktet for å overholde koden.
Men de var mindretallet. Av de ledsagende chatbotene hadde tre fjerdedeler ingen fungerende eller planlagt filtrering eller aldersforsikring, mens en sjettedel ikke hadde en publisert e-postadresse for å rapportere mistenkte brudd, noe som også er påkrevd.
Elon Musks chat-baserte søkeverktøy Grok, som er under etterforskning globalt for mistenkt unnlatelse av å stoppe produksjonen av syntetiske seksualiserte bilder av barn, hadde ingen aldersforsikringstiltak eller tekstbaserte innholdsfiltre, fant Reuters. Groks morselskap, xAI, svarte ikke på en forespørsel om kommentar.
Lisa Given, direktør for RMIT Universitys Center for Human-AI Information Environments, sa at Reuters-funnene var ikke overraskende fordi «de fleste av disse verktøyene er utformet uten tanke på potensielle skader og behovet for slike sikkerhetskontroller».
«Det føles som om … vi betatester alle disse tingene for disse selskapene og de prøver å se hvor langt samfunnet er villig til å bli presset,» sa hun.
