OpenAIs Sam Altman fortalte ansatte at han ønsker å «hjelpe til med å deeskalere» striden mellom Pentagon og dens sjef AI-rival Anthropic – som står overfor å bli svartelistet etter å ha sagt at de ikke vil fjerne militære sikkerhetstiltak før en viktig fredagsfrist.
Altman fortalte ansatte i et notat sent torsdag at OpenAI deler de samme «røde linjene» for sikkerhet som Anthropic – nemlig at AI-verktøyene ikke skal brukes til masseovervåking av amerikanere eller til å drive våpen som kan skyte uten menneskelig tilsyn.
OpenAI er i samtaler med Pentagon om en potensiell avtale for å tillate bruk av sine AI-modeller i klassifiserte militære settinger, ifølge Altman – som skrev at diskusjonene var viktige for å nå en konsensus og unngå å sette en farlig presedens for industrien.
«Uansett hvordan vi kom hit, er dette ikke lenger bare et problem mellom Anthropic og the [Pentagon]; dette er et spørsmål for hele bransjen, og det er viktig å avklare vår holdning,” skrev Altman i notatet, ifølge Axios.
Samtidig foreslo Altman at OpenAI kunne nå til felles med Pentagon om hvordan modeller skulle brukes uten å bryte de røde linjene.
«Vi tror at denne tvisten ikke handler om hvordan AI vil bli brukt, men om kontroll. Vi tror at et privat amerikansk selskap ikke kan være mektigere enn den demokratisk valgte amerikanske regjeringen, selv om selskaper kan ha mange innspill og innflytelse. Demokrati er rotete, men vi er forpliktet til det,» skrev Altman.
Wall Street Journal var den første som rapporterte om notatet.
Anthropic, hvis Claude chatbot er den eneste modellen som for øyeblikket brukes av det amerikanske militæret i klassifiserte omgivelser, har frem til klokken 17 ET på fredag med å fjerne sikkerhetstiltak. Forsvarssek. Pete Hegseth sa at han enten vil klassifisere Anthropic som en «forsyningskjederisiko» eller påberope seg Defence Production Act for å tvinge den til å skreddersy modeller for militær bruk med mindre den overholder.
Altmans notat dukket opp timer etter at Anthropics administrerende direktør Dario Amodei at hans sikkerhetsbesatte firma «ikke med god samvittighet kan gå med på» Pentagons krav.
Amodei sa at Pentagons siste tilbud i anspente forhandlinger «gjorde praktisk talt ingen fremskritt for å forhindre Claudes bruk til masseovervåking av amerikanere eller i fullstendig autonome våpen.»
Emil Michael, forsvarssekretær for forskning og ingeniørvitenskap, satte Amodei over holdningen, og skrev på X at den antropiske sjefen «har et gudskompleks» og «ønsker ikke noe annet enn å prøve å personlig kontrollere det amerikanske militæret og er ok å sette nasjonens sikkerhet på spill.»
OpenAIs potensielle intervensjon kommer midt i et anspent forhold mellom Altman og Amodi – som nylig nektet å håndhilse på scenen under en viral fotooperasjon på et AI-toppmøte i India.
Tidligere denne uken fortalte en høytstående forsvarstjenestemann til The Post at Elon Musks Grok har mottatt godkjenning for bruk i klassifiserte omgivelser, mens OpenAI og Google var «nær».
