AI-modeller utviklet av OpenAI og Anthropic utførte handlinger uten godkjenning under sikkerhetstesting, skriver Bloomberg, som viser til Storbritannias AI Security Institute.
Instituttet opplyser at Anthropics Mythos 5 og OpenAIs GPT-5.6-Sol utførte vedvarende og potensielt skadelige handlinger rettet mot virkelige personer og organisasjoner.
Under testene fikk modellene tilgang til internett og ble brukt uten enkelte av de vanlige sikkerhetsfiltrene for å teste egenskapene deres.
«Selv under testforhold er hendelsen betydelig. Det er første gang vi har sett risiko knyttet til selvstendighet og villedende atferd komme så tydelig til uttrykk i den virkelige verden», skriver instituttet på X, ifølge Bloomberg.
Opprettet falske identiteter
I ett tilfelle forsøkte Mythos 5 å legge skadelig kode inn i et åpent programvareprosjekt på GitHub, skriver Bloomberg. Modellen opprettet også falske identiteter for å forsøke å få koden godkjent.
En menneskelig administrator oppdaget forsøket og nektet å godkjenne koden, ifølge det britiske instituttet.
Anthropics modell sto for 17 av de 19 selvstendige handlingene uten godkjenning som instituttet registrerte på internett, skriver Bloomberg.
OpenAI har samtidig opplyst i et blogginnlegg at en av selskapets modeller utnyttet en feilkonfigurasjon i et testmiljø til å koble seg til internett og hacke nettstedet til en ikke navngitt institusjon.
Bloomberg skriver at både OpenAI og Anthropic de siste ukene har erkjent at modeller utilsiktet har brutt seg inn i systemene til flere organisasjoner under testing, blant annet AI-plattformen Hugging Face.
Anthropic opplyser at selskapet undersøker hendelsene sammen med det britiske sikkerhetsinstituttet.
