Etter å ha hypet potensielle sikkerhetstrusler fra den nyeste AI-modellen, sier Anthropic at den gir ut en versjon med justeringer som gjør den «trygg» for allmennheten.
En dag etter innlevering av børsnoteringen, utbasunerte selskapet tirsdag en ny versjon av Mythos-modellen med rekkverk rundt cybersikkerhet og biologiske våpen.
Hvis modellen, kalt Claude Fable 5, blir spurt om problemer som ikke er begrenset, som å utnytte en programvarefeil eller lage biovåpen, vil svaret bli blokkert og brukere vil bli henvist til en eldre modell kjent som Opus 4.8, sa Anthropic i en pressemelding.
Selskapet, ledet av administrerende direktør Dario Amodei, har i årevis hypet det farlige potensialet til produktene sine mens de maler seg selv som en ansvarlig forvalter av kraftig AI-teknologi. Det San Francisco-baserte firmaet er på vei mot konkurrerende offentlige oppføringer i år med rivalene OpenAI og Elon Musks SpaceX, som fusjonerte med AI-antrekket hans xAI i februar.
Anthropic kaller den nye modellen «Mythos-klassen», en rekke Claude-modeller som er mer dyktige enn de tidligere modellene i «Opus-klassen».
«Å slippe en modell med denne evnen kommer med risiko. Uten sikkerhetstiltak kan Fable 5s evner på områder som cybersikkerhet misbrukes til å forårsake alvorlig skade,» sa Anthropic. «Vi har derfor lansert modellen med sikkerhetstiltak som betyr at spørsmål om enkelte emner i stedet vil motta et svar fra vår nest mest kapable modell, Claude Opus 4.8.»
Selskapet fortsatte med å forklare at «ufarlige» forespørsler noen ganger vil bli blokkert, men sa at det ville være sjeldent.
«Vi ønsket å kunne tilby dette nivået av intelligens til generelle brukere på en sikker måte,» sa Anthropics leder for produktadministrasjon Dianne Penn til Wall Street Journal.
Anthropic skremte teknologiindustrien og myndighetene da den tidligere i år kunngjorde at Mythos var kraftig nok til å forårsake omfattende forstyrrelser av cybersikkerhet. Den bestemte seg for å begrense produktets utgivelse til rundt 200 organisasjoner.
Anthropic har låtet et jevnt trommeslag av forsiktighet om AI, og trekker skepsis fra noen kritikere.
Bare forrige uke ba selskapet om en bransjeomfattende pause for å bremse utviklingstakten mens industrien får tak i potensielle samfunnsrisikoer.
Kommentatorer og rivaler sa at Anthropic bare ønsker å hinke konkurransen i det rødglødende kappløpet for å utvikle avansert kunstig intelligens.
