Internasjonale finanstopper advarer om at de nyeste AI-modellene kan avdekke svakheter i bankenes cyberforsvar og i ytterste konsekvens true finansiell stabilitet, skriver Financial Times.
Under vårmøtene til IMF og Verdensbanken i Washington denne uken skal bekymringen for den nye Anthropic-modellen «Claude Mythos Preview» ha dominert samtalene blant finansministre, sentralbanksjefer og tilsynsmyndigheter, ifølge avisen.
– Det er en svært alvorlig utfordring for oss alle, sier Bank of England-sjef Andrew Bailey til FT.
Bailey, som også leder Financial Stability Board, peker på at tilsynsmyndighetene raskt må vurdere hvilken cybersikkerhetstrussel den nye teknologien kan utgjøre for det globale finanssystemet.
Fant tusenvis av sårbarheter
Anthropic har opplyst at modellen har funnet tusenvis av alvorlige sårbarheter, blant annet i store operativsystemer og nettlesere. Selskapet skal samtidig ha advart om at slike egenskaper raskt kan spre seg til aktører som ikke nødvendigvis vil bruke dem ansvarlig.
Den europeiske sentralbanken (ESB)-sjef Christine Lagarde trekker frem at modellen viser hvor raskt teknologien utvikler seg.
– Det kan være veldig bra, men i gale hender kan det være veldig dårlig, sier hun til FT.
Tester modellen
Foreløpig skal Anthropic bare ha delt modellen med rundt 40 selskaper, blant dem Amazon, Apple og JPMorgan Chase. Hensikten er å la dem teste modellen og identifisere sårbarheter i egne systemer.
FT skriver at også amerikanske myndigheter og flere av de største Wall Street-bankene følger utviklingen tett. JPMorgan-sjef Jamie Dimon sier ifølge avisen at modellen avdekker mange sårbarheter som må tettes.
Samtidig understreker banktopper at teknologien også kan gi store effektivitetsgevinster.
Morgan Stanley-sjef Ted Pick sier til FT at banken allerede tester en betaversjon av modellen og ser muligheter for forbedringer i infrastrukturen.
Flere europeiske tilsynsorganer inntar foreløpig en mer avventende holdning, skriver avisen. De ønsker større innsyn i hva modellen faktisk avdekker, og mener det ennå er for tidlig å konkludere om hvor alvorlig trusselen er.
