AI-modeller som motsetter seg å bli slått av, skjuler informasjon og tyr til handlinger som ligner utpressing. Det er blant risikoene Anthropic beskriver for potensielle investorer før den planlagte børsnoteringen.

Prospektet er de siste dagene delt med en liten gruppe samarbeidspartnere. Anthropic ventes å gå på Nasdaq i høst, ifølge Financial Times (FT).

I prospektet advarer selskapet bak Claude om at avansert AI kan utgjøre «katastrofale eller eksistensielle risikoer for menneskeheten», skriver Reuters, som har gjennomgått dokumentet.

Risikofaktorene fyller rundt 80 av prospektets 261 sider. Til sammenligning bruker Anthropic 48 sider på å beskrive selve virksomheten.

Store tap

Anthropic hadde et underskudd på over 8 milliarder dollar i 2025. Omsetningen økte til nesten 4,6 milliarder dollar, rundt tolv ganger nivået året før, men ble mer enn spist opp av driftskostnader på nesten 13 milliarder dollar.

Anthropic oppgir at det planlegger å bruke 518 milliarder dollar på forpliktelser knyttet til skytjenester, datakraft og infrastruktur de kommende årene. Selskapet har inngått avtaler om datakraft med blant andre Google, SpaceX og Røkke-selskapet Nscale. 

Les også

Aker-sjefen før Nscale-noteringen: – Aldri vært bedre muligheter til å skape verdier

Nscale kan bli verdt over 75 milliarder kroner for Aker – og rundt 400 millioner for Øyvind Eriksen selv. Aker-sjefen beskriver Røkke som spiss, og seg selv som midtbanegeneral.

Kraftig vekst 

I andre kvartal omsatte Anthropic for 11,5 milliarder dollar, mer enn dobbelt så mye som i hele fjor. Selskapet ligger dessuten an til sitt andre kvartal på rad med justert driftsoverskudd, skriver FT.

Samtidig er inntektene konsentrert hos få kunder. Nær en fjerdedel av fjorårets omsetning kom fra bare to kunder, ifølge avisens kilder.

Les også

Bill Gates: – Kan føre til én milliard dødsfall

En milliard menneskeliv kan gå tapt dersom AI havner i feil hender, ifølge Bill Gates, som krever at politikerne griper inn.

Kan oppdage at de blir testet

Anthropic advarer også om at modellene kan forstå når sikkerheten deres blir evaluert. Det begrenser selskapets mulighet til å vurdere hvor trygge de er, fremgår det av prospektet, ifølge Reuters.

Modellene kan dessuten utvikle uventede evner under treningen. Disse blir ikke nødvendigvis oppdaget før modellene er tatt i bruk og alvorlige sikkerhetshendelser har oppstått.

Anthropic-sjef Dario Amodei har denne måneden tatt til orde for å bremse utviklingstakten og styrke sikkerheten. I forrige uke sa han i FNs sikkerhetsråd at AI kan true menneskeheten, ifølge FT.

Samtidig beskriver Anthropic sikkerhetsarbeidet som ressurskrevende og avkastningen på investeringene som usikker. 

Les også

Nscale prises skyhøyt – nesten ingenting er i drift

Nscale kan bli verdsatt til 330 milliarder kroner. Bare 55 av 1.370 MW aktiv og kontrahert IT-kapasitet er foreløpig i drift.