Hacket seg inn i USAs hemmeligste systemer

En av Anthropics mest avanserte KI-modeller, Mythos, identifiserte sårbarheter i høyt sikrede datasystemer hos amerikanske myndigheter under en kontrollert test.

Det opplyser en amerikansk tjenesteperson til nyhetsbyrået Associated Press.

Kilden understreker at funnene ikke nødvendigvis betyr at modellen faktisk klarte å utnytte sårbarhetene i løpet av den samme tiden.

Opplysningene kommer etter at The Economist omtalte Trump-administrasjonens brå blokkering av tilgangen til Anthropics kraftigste modeller, Fable 5 og Mythos 5.

Ifølge The Economist skapte beslutningen sterke reaksjoner blant USAs allierte.

– Ikke uker, men timer

Den demokratiske senatoren Mark Warner tok opp saken under en høring i Senatets bankkomité 11. juni.

Ifølge AP sa Warner at verktøyet «brøt seg inn i nesten alle våre klassifiserte systemer. Ikke på uker, men på timer».

Warner sa han hadde fått opplysningen fra general Joshua Rudd, som er sjef for NSA og Pentagons Cyber Command.

NSA har ikke kommentert saken offentlig. Heller ikke Anthropic ønsket å kommentere overfor AP.

Testen skal ha blitt gjennomført i samarbeid mellom Anthropic og amerikanske etterretningsorganer.

Del av sikkerhetsprosjekt

Testingen skal ha skjedd gjennom Anthropics initiativ Project Glasswing. Selskapet beskriver prosjektet som et samarbeid for å sikre kritisk programvare i en tid der KI kan endre cybertrusselbildet.

Anthropic skriver selv at Project Glasswing gir utvalgte cybersikkerhetsmiljøer tilgang til Claude Mythos Preview, slik at de kan finne og tette sårbarheter i kritiske systemer.

Selskapet opplyste tidligere i juni at partnerne i prosjektet hadde funnet mer enn 10.000 sikkerhetsfeil med høy eller kritisk alvorlighetsgrad.

Pentagon-topp: Musks KI-verktøy ble brukt mot Iran

nyheter

Stengte modellene

Den 12. juni opplyste Anthropic at amerikanske myndigheter har sendt et eksportkontrolldirektiv som forbyr alle utenlandske statsborgere tilgang til Fable 5 og Mythos 5.

Forbudet gjelder også utenlandske Anthropic-ansatte.

Ifølge Anthropic førte direktivet i praksis til at selskapet måtte stenge modellene for alle kunder. 

Advarer mot angrep på strømnettet: NVE øker beredskapen

Frykter svekket forsvar

Samtidig advarer flere cybersikkerhetseksperter mot at en bred blokkering kan ramme USAs egen digitale beredskap.

AP skriver at mer enn 100 eksperter og ledere fra blant annet Adobe og Nvidia har bedt Trump-administrasjonen oppheve direktivet.

I brevet skriver de at Mythos-modellene er gode til å finne programvarefeil og utvikle utnyttelser, men at de ikke er unike. De advarer mot å fjerne noen av de beste defensive cyberverktøyene uten en tydelig begrunnelse.