Løftene fra Anthropic-sjef Dario Amodei og OpenAI-sjef Sam Altman om å legge bånd på utviklingen av kunstig intelligens skaper nå spenninger internt i de to selskapene, skriver Financial Times.
Ansatte hos utviklerne av Claude og ChatGPT jobber med å iverksette sine toppsjefers anbefalinger om å senke farten i AI-utviklingen for å unngå katastrofale konsekvenser, men flere personer nær selskapene hevder likevel overfor avisen at lite er på plass internt for å gjennomføre forslagene.
Senest lørdag skrev Anthropic-sjef Dario Amodei i et blogginnlegg at bransjen «må senke tempoet vi forbedrer AI-modellenes kapasitet i», og Altman og SpaceX-sjef Elon gikk i etterkant ut og støttet oppfordringen.
Vil øke eksternes tilgang
Som et særlig stridstema i begge selskaper trekker Financial Times frem plasseringen av eksterne evaluatorer inne i laboratoriene.
Amodei har foreslått at eksterne testere skal ha «medarbeiderlignende tilgang» – inkludert adgangskort, laptoper, tilgang til kontorer og interne verktøy, og Altman varsler at OpenAI vil gjøre det samme.
Noen ansatte frykter ifølge avisen at dette kan gå på bekostning av sikkerheten rundt teknologien, og én kilde beskriver det som en kilde til «konflikt.»
– Akkurat nå har de fleste tredjepartsorganisasjonene mye, mye mindre tilgang enn selv den fast ansatte med lavest tilgang. Så det vil sannsynligvis måtte komme et slags bindende krav for å få dette etablert i hele bransjen, sier tidligere OpenAI-forsker Miles Brundage, nå daglig leder i AI Verification and Evaluation Research Institute.
– Bevisbyrden på hodet
David Krueger, en tidligere ansatt i britiske AI Security Institute, mener myndighetene og ikke laboratoriene bør bestemme tilgangen.
– Alle disse organisasjonene har bare den tilgangen AI-selskapene gir dem, og den er fullstendig utilstrekkelig, sier Krueger, nå professor for ansvarlig AI ved University of Montreal.
– Fokuset på evalueringer snur bevisbyrden fundamentalt på hodet; det skaper en presedens der man oppfører seg som om AI-systemer er trygge helt til det motsatte er bevist, legger han til.
