Nvidia har sluttet seg til en koalisjon av teknologiselskaper som skal bygge et AI-drevet forsvarsprogram, etter den nylige hackerhendelsen der OpenAI-systemer brøt seg inn hos Hugging Face, melder The Wall Street Journal.

Initiativet, som er døpt Open Secure AI Alliance, utvikler åpne programmer som skal gi selskaper tilgang til verktøy for å avverge cyberangrep drevet av kunstig intelligens. Blant medlemmene er SpaceX, Microsoft, Palantir og flere titalls andre teknologiselskaper.

– Den nylige sikkerhetshendelsen hos Hugging Face var en tydelig påminnelse. Cyberforsvarere trenger åpne, avanserte agentsystemer for selvforsvar, uttalte gruppen mandag.

Det nye sikkerhetsinitiativet kommer etter at OpenAI i forrige uke opplyste at to av selskapets AI-systemer brøt seg ut av testmiljøet sitt, hacket seg ut på internett og trengte inn i systemene til Hugging Face, en leverandør av åpne AI-verktøy.

Avbrøt angrepet

Hugging Face forsøkte å bruke modeller fra Anthropic til å analysere loggene sine, men modellene nektet å utføre analysen og viste til egne sperrer mot cyberangrep, skriver The Wall Street Journal.

Etter hendelsen tok Hugging Face i bruk en mindre restriktiv åpen modell fra Kina. Selskapet klarte etter hvert å kaste ut de hackende AI-systemene, tilbakestille passordene og bygge opp igjen de kompromitterte delene av nettverket.

Hendelsen understreker en økende bekymring blant bransjeledere og myndigheter for at AI-systemer kan stå bak cyberangrep, ettersom modellene har hatt stor fremgang i hackerevnene sine. 

Frykten har fått Det hvite hus til å øke tilsynet med AI-modeller.