Google sluttet en avtale med Pentagon som tillater bruk av deres kunstig intelligens-modeller på klassifiserte systemer – og satt i gang et oppgjør med hundrevis av ansatte som har krevd at administrerende direktør Sundar Pichai skal gå bort fra kontrakten.
Avtalen tillater Pentagon å bruke Googles AI til «enhver lovlig myndighetsformål», rapporterte The Information, og siterer en kilde med kunnskap om saken. Rivalene OpenAI og xAI har nylig inngått lignende avtaler etter at krigsdepartementet kuttet båndene med Anthropic på grunn av deres avslag på å fjerne sikkerhets-«røde linjer» knyttet til autonome våpen og masseovervåking.
Partnerskapet dukket opp samme dag som mer enn 600 Google-ansatte skrev et brev til Pichai om at de var «dypt bekymret» over firmaets forhandlinger med Pentagon.
«Foreløpig er den eneste måten å garantere at Google ikke blir assosiert med slike skader, å avvise eventuelle klassifiserte arbeidsbelastninger,» heter det i brevet, som først ble rapportert av Bloomberg. «Ellers kan slik bruk skje uten vår viten eller makt til å stoppe dem.»
Arbeiderne la til at «å ringe feil akkurat nå ville forårsake uopprettelig skade på Googles omdømme, virksomhet og rolle i verden».
Innlegget har kontaktet Google for kommentar.
En Google-talsperson bekreftet Pentagon-partnerskapet og beskrev det som en oppdatering av selskapets eksisterende kontrakt, som tillot modellene å brukes i ikke-klassifiserte militære omgivelser.
«Vi er stolte over å være en del av et bredt konsortium av ledende AI-laboratorier og teknologi- og skyselskaper som tilbyr AI-tjenester og infrastruktur til støtte for nasjonal sikkerhet,» sa talspersonen i en uttalelse.
«Vi er fortsatt forpliktet til konsensus fra privat og offentlig sektor om at kunstig intelligens ikke skal brukes til innenlandsk masseovervåking eller autonome våpen uten passende menneskelig tilsyn,» la talspersonen til.
Språket i Googles avtale sier at både selskapet og Pentagon «er enige om at AI-systemet ikke er ment for, og ikke skal brukes til, innenlandsk masseovervåking eller autonome våpen (inkludert målvalg) uten passende menneskelig tilsyn og kontroll,» ifølge informasjonen.
Samtidig erkjenner den at Google ikke beholder noen rett til å «kontrollere eller nedlegge veto mot lovlige operative beslutninger fra myndighetene».
Avtalen kan skape ny hodepine internt for Google, som ofte har møtt press fra aktivistansatte i sine rekker over arbeid med militære applikasjoner.
I april 2024 arrangerte Google-ansatte sit-ins på selskapets kontorer i New York og California for å protestere mot forretningsbåndene til den israelske regjeringen under krigen i Gaza.
Teknologigiganten sparket til slutt dusinvis av arbeidere som deltok i sit-ins.
I mellomtiden saksøker Anthropic og dens kontroversielle administrerende direktør Dario Amodei Pentagon for deres beslutning om å merke selskapet som en «forsyningskjederisiko» – en betegnelse som normalt er forbeholdt utenlandsk eide enheter.
