OpenAI-sjef Sam Altman innrømmer at selskapets raske avtale med det amerikanske forsvarsdepartementet fremsto som «opportunistisk og slurvete», og varsler nå endringer i kontrakten med Pentagon, melder Bloomberg.
Fredag ble det kjent at OpenAI hadde inngått en avtale som åpner for at selskapets AI-modeller kan tas i bruk i Pentagons graderte nettverk. Avtalen kom få timer etter at forhandlingene mellom forsvarsdepartementet og konkurrenten Anthropic brøt sammen.
Anthropics røde linjer
Anthropic hadde satt to tydelige «røde linjer» for teknologien sin: den skulle ikke skulle brukes til masseovervåking av amerikanere eller til fullt autonome, dødelige våpen.
Ifølge Financial Times ønsket forsvarsminister Pete Hegseth at modellene skulle være tilgjengelige for «all lovlig bruk», mens Anthropic krevde strengere kontraktsfestede begrensninger. Forhandlingene strandet blant annet på spørsmål om omfattende bruk av offentlig tilgjengelige data.
Kort tid etter ble Anthropic svartelistet, og OpenAI kunngjorde sin avtale med Pentagon. OpenAI har samtidig presisert at selskapet er uenig i beslutningen om å svarteliste konkurrenten.
Intern uro
Avtalen har skapt internt press i OpenAI. Ansatte har uttrykt bekymring, og det har dukket opp graffiti utenfor hovedkontoret i San Francisco med budskap mot masseovervåking, ifølge Financial Times.
I et innlegg på X mandag skrev Altman at OpenAI nå samarbeider med departementet om å legge til nye formuleringer i avtalen for å tydeliggjøre selskapets prinsipper.
«Én ting jeg mener vi gjorde feil: Vi skulle ikke ha forhastet oss med å få dette ut på fredag. Problemstillingene er superkomplekse og krever klar kommunikasjon. Vi prøvde virkelig å deeskalere og unngå et mye verre utfall, men jeg mener det bare så opportunistisk og slurvete ut», skriver Altman.
De nye tilleggene skal blant annet forby bevisst sporing eller overvåking av amerikanske borgere, også gjennom bruk av kommersielt innhentede personopplysninger. Etterretningstjenester som National Security Agency også vil inntil videre holdes utenfor avtalen, ifølge Financial Times.
