Lovgiverne i California vedtok onsdag et sterkt omstridt sikkerhetslovforslag om kunstig intelligens, hvoretter det vil trenge en prosessavstemning til før skjebnen er i hendene på guvernør Gavin Newsom, som har frem til 30. september på å bestemme seg for om den skal signeres i loven. eller nedlegge veto.
Teknologiselskaper som utvikler generativ AI – som kan svare på meldinger med fullstendig utformet tekst, bilder eller lyd, samt kjøre repeterende oppgaver med minimal intervensjon – har i stor grad avvist lovgivningen, kalt SB 1047, og sier at den kan drive AI-selskaper fra staten og hindre innovasjon.
Noen demokrater i kongressen, inkludert representanten Nancy Pelosi, var også imot det. Talsmenn inkluderer Tesla-sjef Elon Musk, som også driver et AI-firma kalt xAI og har sagt at han støtter lovforslaget.
Tiltaket krever sikkerhetstesting for mange av de mest avanserte AI-modellene som koster mer enn 100 millioner dollar å utvikle eller de som krever en definert mengde datakraft. Utviklere av AI-programvare som opererer i staten må også skissere metoder for å slå av AI-modellene hvis de går galt, faktisk en kill switch.
Lovforslaget gir også statsadvokaten fullmakt til å saksøke dersom utviklere ikke er kompatible, spesielt i tilfelle en pågående trussel, slik som at AI overtar offentlige systemer som strømnettet.
I tillegg krever lovforslaget at utviklere skal ansette tredjepartsrevisorer for å vurdere deres sikkerhetspraksis og gi ytterligere beskyttelse til varslere som uttaler seg mot AI-misbruk.
Forfatteren av lovforslaget, den demokratiske statssenatoren Scott Wiener, representerer San Francisco, hjemmet til OpenAI og mange av startupene som utvikler den kraftige programvaren. Han har sagt at lovgivning er nødvendig for å beskytte publikum før fremskritt innen kunstig intelligens blir enten uhåndterlig eller ukontrollerbar.
Martin Casado, generalpartner i venturekapitalfirmaet Andreessen Horowitz, sa før avstemningen at han håpet Newsom ville nedlegge veto mot det. «Det har den mest todelte, brede opposisjonen jeg noen gang har sett,» sa han.
Alphabets Google, Microsoft-støttede OpenAI og Meta Platforms har uttrykt bekymringene sine i brev til Wiener. Amazon-støttet Anthropic har sagt at fordelene med regningen sannsynligvis oppveier kostnadene, selv om den la til at det fortsatt var noen aspekter som virker bekymrende eller tvetydige.
