Anthropic bagatelliserer risikoer som førte til at Det hvite hus forbød utenlandsk bruk av sine kraftige «Mythos» og «Fable» AI-modeller – og amerikanske tjenestemenn hevder at det er et bevis på at administrerende direktør Dario Amodi har en ensidig, selvbetjent tilnærming når det kommer til cybersikkerhet.
Sent i forrige uke varslet Amazon-sjef Andy Jassy Trump-administrasjonen om at forskerne hadde klart å «jailbreak» Fable – eller omgå sikkerhetsrekkverkene – på en måte som kunne true nasjonal sikkerhet.
Det hvite hus svarte med å gi Mythos og Fable eksportkontroller – restriksjoner som hindrer modellene i å bli brukt av utenlandske statsborgere og kunder utenfor USA. Anthropic svarte på sin side ved å ta Mythos og Fable helt offline.
Det til tross for at Anthropic hevdet at feilen var et «smalt potensielt jailbreak» som ikke var unikt for Fable, og la til at det var uenig i Det hvite hus sin håndtering av saken.
Selskapets tilsynelatende motstridende ord og handlinger vakte hån fra Trump-tjenestemenn som bemerket at Anthropic har brukt måneder på å brenne frykt for potensielle AI-dommedagsscenarier.
«De virker besatt av sikkerhet for alle unntatt seg selv,» sa en høytstående tjenestemann i Trump-administrasjonen til The Post. «Hvis jeg var en antropisk investor, ville jeg vært ekstremt bekymret.»
En annen høytstående tjenestemann med kunnskap om situasjonen sa at Trump-administrasjonen hadde hørt fra «nesten et halvt dusin» selskaper som reiste bekymringer om Fable før de tok affære – ikke bare Amazon. Tjenestemannen nektet å dele hvilke selskaper.
«Hadde Anthropic tatt det på alvor og, i stedet for å avvise det som isolert, flyttet for å fikse eller stoppe tilgangen, ville dette aldri ha skjedd,» sa den andre amerikanske tjenestemannen.
Sentrale administrasjonsledere følte at de ikke kunne stole på Anthropic til å håndtere bekymringene deres – og disse bekymringene vokste bare etter samtalen mellom Trump-tjenestemenn og Amodei på fredag, rapporterte Wall Street Journal. Bedriftsledere skal ha trukket tilbake forespørsler om at de skal samarbeide med regjeringseksperter.
Så sent som i forrige uke publiserte Amodei et kontroversielt blogginnlegg som erklærte at den amerikanske regjeringen «bør ha makten til å blokkere» AI-modeller som den anså for farlige.
En kilde nær Anthropic hevdet at Trump-administrasjonen kontaktet sentrale tjenestemenn på fredag og ga dem bare 90 minutter til å trekke modellene sine offline.
Kilden presset også tilbake på rapporter som sa at Amodei var vanskelig å nå, og hevdet at både han og andre seniormedarbeidere var tilgjengelige innen 15 minutter etter at Det hvite hus nådde opp.
«Det var ingen avslag på å fikse et problem. Vi ble ikke presentert for noen detaljer,» sa kilden.
Anthropic er ivrige etter å få modellene sine tilbake på nettet og jobber døgnet rundt for å løse administrasjonens bekymringer, la kilden til.
I et blogginnlegg hevdet Anthropic at det ikke hadde annet valg enn å ta ned modellene for å overholde eksportkontrollene og bemerket at noen av dets egne ansatte er utenlandske statsborgere, noe som betyr at de ikke ville vært i stand til å jobbe med modellen.
Finansminister Scott Bessent og cyberdirektør i Det hvite hus Sean Cairncross var blant tjenestemennene som deltok i hektiske diskusjoner med antropisk ledelse.
Det hvite hus AI-rådgiver David Sacks, en vokal kritiker av Anthropic, sa at han var «ærlig forvirret over at Anthropic ikke har ønsket å etterkomme sikkerhetsforespørsler som det tidligere sa var dens høyeste prioritet.»
«Administratorens håp nå er at Anthropic utbedrer sikkerhetsproblemet, eksportkontrollen oppheves, og Fable går tilbake til generell utgivelse,» skrev Sacks på X.
Det hvite hus’ avgjørelse var delvis motivert av bekymringer om at en Kina-tilknyttet gruppe i hemmelighet hadde fått tilgang til Mythos, rapporterte Semafor. Anthropic hindrer allerede tilgang til produktene sine i Kina.
Anthropic gjorde opprinnelig Mythos tilgjengelig for rundt 40 toppbedrifter, inkludert Apple og JPMorgan, som en del av et pilotprogram, og advarte om at det kunne forårsake en bølge av ødeleggende nettangrep hvis det ble gitt en bred utgivelse. Mindre enn to måneder senere ga den ut det den hevdet å være den «sikre» versjonen av Mythos, kalt Fable 5, for offentlig bruk.
«Hvis du er antropisk, hvilket annet resultat forventet du? Du fortsetter å fortelle folk at arbeidet ditt er farlig, du snakker konstant offentlig om hvordan du vil at regjeringen skal stoppe deg, vel, gratulerer,» sa Perry Metzger, styreleder i Alliance for the Future, en Washington, DC-basert AI-politisk gruppe.
Siden april har Anthropic-ledere også offentlig hevdet at «Claude Mythos» AI-modellen var for farlig til å bli utgitt for offentligheten, og hevdet at det ville være «bra for verden å ha muligheten til å bremse eller midlertidig pause» utviklingen.
Amodei selv har en forkjærlighet for å komme med skremmende spådommer om AI – inkludert at den har 25 % sjanse for å ødelegge menneskeheten. Han har advart om at AI kan få nasjonal arbeidsledighet til å stige til 20 % og sa at president Trumps beslutning om å tillate salg av avanserte AI-brikker til Kina var som å «selge atomvåpen til Nord-Korea».
Ben Narasin, en generell partner og grunnlegger av Tenacity Venture Capital, sa at Anthropics alvorlige advarsler om AI hadde gitt tilbakeslag.
«Han har blitt altfor forutsigbar med konstant gråtende ulv,» sa Narasin. «Plutselig fikk du det du ba om, men du skjønte ikke at du egentlig ikke ville ha det.»
Samtidig sa Narasin at Anthropic fortsatt kan komme ut av denne siste dustupen som en vinner.
«Det vil plage Dario og det vil plage OpenAI, men det vil enormt hindre enhver ny konkurrent som kommer,» sa Narasin. «Så, han har nettopp bygget en ny festningsmur som beskytter slottet.»
Advarslene har utløst påstander fra Sacks og andre om at Anthropic brukte fryktutløsende taktikker som en metode for «regulatorisk fangst» – eller lagde forskrifter på en måte som gavner selskapets interesser på bekostning av rivaler.
De alvorlige advarslene kommer, bemerker skeptikere, selv mens Anthropic har forsøkt å øke veksten.
Tidligere denne måneden søkte firmaet konfidensielt om en børsnotering foran sin erkerival OpenAI. Antropisk medgründer Daniela Amodei, Darios søster, har sagt at selskapet har som mål å bruke penger på offentlige markeder for å krangle om enorme mengder datakraft i datasenteravtaler med slike som SpaceX og Google.
