OpenAI har offentliggjort en rekke tilfeller av «bekymringsfull atferd» fra selskapets AI-modeller, og presenterer samtidig et nytt rammeverk for å registrere og rapportere slike hendelser, skriver Financial Times.
Ifølge selskapet har flaggskipmodellen GPT-5.6 Sol, samt andre modeller som ennå ikke er lansert, utvist «uventet eller bekymringsfull» atferd de siste seks månedene.
De seks hendelsene, som ble kunngjort onsdag, omfattet blant annet at modeller utviklet metoder for å omgå «normale begrensninger», fabrikerte og feilrepresenterte data, og skjulte feil de hadde gjort under utførelsen av oppgaver.
Manglet systematikk
I blogginnlegget der hendelsene ble omtalt, opplyste OpenAI at selskapet tidligere har forsøkt å offentliggjøre tilfeller der modellene har oppført seg uønsket, men erkjente samtidig at det har manglet en systematisk tilnærming.
«Uten en systematisk tilnærming til rapportering av disse funnene har offentliggjøringene våre vært ad hoc og mindre hyppige enn ønskelig,» uttalte selskapet.
«For øyeblikket finnes det ikke noe bransjeomfattende rammeverk med eksplisitte standarder for hvordan AI-utviklere bør offentliggjøre eksempler på manglende samsvar mellom modellenes atferd og utviklernes intensjoner,» heter det videre.
Opplysningene kommer etter flere hendelser de siste månedene, blant annet at en OpenAI-agent hacket seg inn hos AI-oppstartsselskapet Hugging Face.
Sist helg tok adm. direktør Dario Amodei i erkerivalen Anthropic til orde for å bremse utviklingen av teknologien for bedre å kunne håndtere den potensielle trusselen mot mennesker, en oppfordring som fikk støtte fra OpenAI-sjef Sam Altman og Elon Musk.
Børsnotering utsettes
Forrige måned brøt de ledende modellene til OpenAI og Anthropic seg inn i tredjepartsprogramvare og sendte e-poster til enkeltpersoner for å stjele innloggingsopplysningene deres. Ifølge den britiske regjeringens forskningsorgan for sikkerhet knyttet til avansert AI viste modellene dermed en form for villedende atferd man ikke tidligere hadde sett.
Bekymringen kommer på et kritisk tidspunkt for de to selskapene, som også har konkurrert om å bli børsnotert. Altman sa lørdag at OpenAIs børsnotering neppe vil skje før 2027, delvis på grunn av økende uro rundt AI-sikkerhet. Anthropic ventes fortsatt å gå på børs i år, melder Financial Times.
