AI-selskapet Anthropic sier at Pentagon har klassifisert selskapet som en risiko for militære leverandørkjeder, men at beslutningen vil ha begrenset betydning for virksomheten. Samtidig varsler selskapet at det vil utfordre avgjørelsen i retten, melder Financial Times.
Forsvarsdepartementet har sendt et brev til Anthropic der det formelt slår fast at selskapet anses som en risiko for militære leverandørkjeder, bekrefter toppsjef Dario Amodei.
Beslutningen skjerper konflikten mellom Pentagon og ett av USAs ledende AI-selskaper om hvordan teknologien kan brukes av militæret. Dette skjer til tross for at selskapets AI-modeller fortsatt brukes av det amerikanske forsvaret, blant annet under USAs krig mot Iran.
– Ikke juridisk holdbar
Klassifiseringen har skapt bekymring for samarbeid med selskaper som Amazon, som også leverer tjenester til Pentagon. Tiltaket innebærer at Anthropics partnere må bryte samarbeid med selskapet i militære kontrakter.
Ifølge Amodei er imidlertid tiltaket begrenset til bruk av AI-modellen Claude i kontrakter direkte med forsvarsdepartementet, og vil derfor ikke ramme de fleste kundene.
Dersom tiltaket hadde blitt anvendt bredt, kunne det fått store konsekvenser for Anthropics inntekter, samt selskapets tilgang til viktige datasentre.
– Vi mener ikke denne beslutningen er juridisk holdbar og ser ingen annen utvei enn å utfordre den i retten, sier han.
Beskyldte Pentagon for løgn
Konflikten oppsto etter at forhandlinger om militær bruk av Anthropics teknologi brøt sammen. Amodei nektet å gå bort fra to «røde linjer»: at selskapets AI ikke skal brukes i dødelige autonome våpen eller i omfattende innenlandsk overvåking.
Mens fra Pentagons side handler om ett grunnleggende prinsipp om at militæret må kunne bruke teknologi til alle lovlige formål.
Situasjonen ble ytterligere skjerpet etter at Amodei i en intern melding til ansatte anklaget Pentagon for «direkte løgner».
Ifølge FT har han i etterkant beklaget formuleringen og sa at meldingen ble skrevet på en vanskelig dag for selskapet.
Ordkrig med Altman
Konflikten mellom Anthropic og Pentagon har samtidig utviklet seg til en åpen strid i AI-bransjen.
Fredag i forrige uke ble det kjent at OpenAI hadde inngått en avtale som åpner for bruk av selskapets AI-modeller i Pentagons graderte nettverk, kort tid etter at forhandlingene mellom forsvarsdepartementet og Anthropic brøt sammen.
Under en opptreden på Morgan Stanleys teknologi-, media- og telekomkonferanse kom OpenAIs Sam Altman med flere stikk i retning Amodei.
– Myndighetene skal være mektigere enn private selskaper, sa Altman.
Ifølge The Information skal Amodei sist fredag ha skrevet en internmelding til sine ansatte, der en av formuleringene skal ha vært at Anthropic ikke har «hyllet Trump slik du hyller en diktator» – i motsetning til Altman.
FT skrev tidligere i år at synet på AI-regulering skal ha vært en av årsakene til at Amodei brøt med Altman og OpenAI for å starte opp Anthropic i 2020.