En liten gruppe uautoriserte brukere på et privat online-forum har fått tilgang til Anthropics nye AI-modell Mythos, opplyser en person med kjennskap til saken til Bloomberg – som også har gått gjennom dokumentasjon.
Tilgangen skal ifølge nyhetsbyrået ha blitt etablert samme dag Anthropic annonserte at modellen skulle slippes til et begrenset antall selskaper for testing i «Project Glasswing.» Brukerne på forumet har brukt modellen jevnlig siden, men uten å kjøre forespørsler om cybersikkerhet, hevder kilden, som underbygger påstanden med skjermbilder og en live-demonstrasjon.
Mythos er ifølge Anthropic selv et kraftigere system som kan identifisere – og deretter utnytte – sårbarheter i alle store operativsystemer og nettlesere, dersom en bruker ber modellen om det.
Hadde hastemøte
Frykten for at Mythos kan løfte risikoen for cyberangrep til nye nivåer fikk for to uker siden USAs finansminister Scott Bessent og sentralbanksjef Jerome Powell til å kalle inn sjefene for flere av Wall Streets største banker til et hastemøte.
Møtet var for å sikre at bankene er klar over mulige fremtidige risikofaktorer, og at de tar forholdsregler for å forsvare systemene sine. Et annet tema var ifølge Bloomberg-kilder potensielt lignende modeller som kan komme.
Nyhetsbyrået påpeker at den påståtte uautoriserte bruken illustrerer hvor krevende det er å hindre at de mest kraftfulle modellene sprer seg utover godkjente partneres hender. Det reiser også spørsmål om andre kan ha tilgang, og i så fall til hvilke formål.
– Har ikke bevis
De påståtte uautoriserte brukerne benyttet seg av flere metoder, deriblant tilgangen Bloombergs kilde hadde som ansatt hos en tredjepartsleverandør for Anthropic, samt vanlige verktøy for «nettspeiding» brukt av cybersikkerhetsforskere.
Brukerne skal være del av en privat Discord-kanal som leter etter informasjon om ikke-lanserte modeller, blant annet ved hjelp av boter som skanner etter detaljer lagt ut på usikrede nettsteder som GitHub.
En talsperson for Anthropic bekrefter i en uttalelse at selskapet «undersøker en rapport som hevder uautorisert tilgang til Claude Mythos Preview gjennom et av våre tredjepartsmiljøer», men legger til at det pr. nå ikke foreligger bevis for at tilgangen gikk utover slike miljøer eller at den påvirker Anthropics egne systemer.
Levert til et fåtall
Anthropic har gått forsiktig frem og begrenset utrullingen av Mythos til et fåtall store banker og teknologiselskaper i det omtalte «Project Glasswing», der Amazon, Apple og JPMorgan er blant deltakerne.
Deltakerne i prosjektet skal sikre kritiske systemer før lignende modeller blir bredt tilgjengelige. Anthropic har tidligere uttalt at selskapet har hatt dialog med myndighetene om Mythos og modellens offensive og defensive cyberkapasitet.
Blant de innkalte banksjefene i hastemøtet for to uker siden var Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) og David Solomon (Goldman Sachs). JPMorgans Jamie Dimon kunne ifølge Bloomberg-kilder ikke delta.
Samtlige banker innkalt til møtet var klassifisert som systemkritiske, noe som betyr at regulatoriske myndigheter prioriterer deres stabilitet med hensyn til det globale finansielle systemet.
