Anthropics kraftige «Mythos» AI-modell var angivelig i stand til å finne sårbarheter i svært sikre amerikanske regjeringssystemer i løpet av bare noen få timer – den siste utviklingen for å vekke sikkerhetsbekymringer rundt produktet.
Under tester utført av amerikanske etterretningsbyråer, identifiserte Mythos visse sårbarheter i offentlige systemer i løpet av timer – selv om det ikke betyr at boten ville være i stand til å utnytte de samme sensitivitetene innenfor den tidsrammen, rapporterte Associated Press denne uken.
Disse testene var en del av et Anthropic-initiativ kjent som Project Glasswing, som samarbeidet med andre selskaper og byråer for å løse potensielle sikkerhetsproblemer – etter rapporter Anthropics Mythos og «Fable» var så avanserte at de kunne utløse en AI-dommedag.
De alvorlige advarslene om programvaren har ført til skepsis fra noen observatører, som sier at de i utgangspunktet markedsfører for Anthropic i det svært konkurransedyktige AI-løpet.
Men på en kongresshøring tidligere denne måneden sa senator Mark Warner, den øverste dem i Senatets etterretningskomité, at han hadde blitt informert av General Security Agency-direktøren Joshua Rudd om at Mythos «brøt seg inn i nesten alle våre klassifiserte systemer, ikke på uker, men i timer».
En tjenestemann i Det hvite hus fortalte The Post at ulike deler av den amerikanske regjeringen har brukt banebrytende AI-modeller for å identifisere og redusere cybersårbarheter, og at president Trump har tatt grep for å beskytte klassifiserte systemer.
National Security Agency og Anthropic svarte ikke umiddelbart på The Posts forespørsler om kommentar.
Tidligere denne måneden slo Trump-administrasjonen utenlandsk eksportkontroll på «Mythos» og «Fable», etter at Amazon-sjef Andy Jassy advarte administrasjonen om at forskere hadde funnet bevis på at det var mulig å omgå sikkerhetsrekkverkene deres.
Anthropic svarte med å trekke modellene helt frakoblet, og hevdet at det var den eneste måten å overholde de nye restriksjonene – da den sendte flere topptjenestemenn til Washington, DC, i et forsøk på å vinne over myndighetspersoner.
National Security Agency hadde testet versjoner av Anthropics nyeste AI-verktøy da de nyeste modellene ble stengt, ifølge New York Times, som et tegn på hvor viktige robotene allerede har blitt for cybersikkerhet og nasjonale sikkerhetstiltak.
I mellomtiden har spenningene mellom Anthropic og den amerikanske regjeringen vært oppvarmet helt siden Anthropics administrerende direktør Dario Amodei nektet å gi Pentagon ukontrollert tilgang til AI-verktøy under kontraktsforhandlinger, og søkte grenser for deres bruk i masseovervåking eller våpen.
Etter at regjeringen slo Anthropics siste modeller med eksportrestriksjoner, hevdet selskapet at trinnene var unødvendige, og sa at de ganske enkelt hadde flagget potensielle sikkerhetsrisikoer i robotene.
Men som The Post tidligere rapporterte, ble tjenestemenn i Det hvite hus irritert over at Anthropic hadde bagatellisert sikkerhetsrisikoen som et «smalt» problem – etter år med advarsler om de potensielle katastrofale konsekvensene av uregjerlige AI-roboter.
Nå prøver Anthropic å kose seg med regjeringen og løse sikkerhetsproblemer, og lovet sist å jobbe tettere med Det hvite hus i et forslag til handelssekretær Howard Lutnick, som The Post eksklusivt rapporterte.
Samtalene mellom tjenestemenn i Anthropic og Trump går bra, selv om en tidslinje for en permanent løsning fortsatt er uklar, sa en kilde.
På G7-toppmøtet i Frankrike forrige uke sa Trump at samtalene med Anthropic «går bra», mens Amodi oppfordret verdensledere til å «motstå fristelsen til å splintre» i deres tilnærminger til AI-regulering.
