Microsoft har lagt frem et foreløpig etisk regelverk som setter begrensninger for selskapets fremtidige AI-modeller, melder CNBC. 

Dette skjer bare dager etter at ledere i Anthropic og OpenAI ble enige om å senke utviklingstempoet.

– Vi fikk tilbakemeldinger fra folk om at de ønsket å se en enda tydeligere forpliktelse til at AI alltid skal arbeide i menneskers tjeneste, og ikke forsøke å erstatte dem, sier AI-sjef i Microsoft, Mustafa Suleyman, til CNBC.

Retningslinjene har vært under arbeid i cirka fem måneder, men Microsoft valgte å publisere dem nå på grunn av den pågående debatten.

– Vi så mange tilbakemeldinger om at AI ikke skal skape avhengighet, ikke være smiskende, at den alltid skulle fremme menneskelig dømmekraft og menneskelig autonomi og handlefrihet, fortsatte Suleyman.

Bransjen bremser

Forrige uke sa Anthropic-forskeren Jacob Coxon opp, med beskjed om at AI-laben og OpenAI «kappløper rett mot selvforbedrende superintelligens og gambler med livene våre». 

Lørdag fortalte Anthropic-sjef Dario Amodei at Hugging Face-hendelsen var en medvirkende årsak til at han tok til orde for å bremse tempoet i modellutviklingen. OpenAI-sjef Sam Altman støttet ham, mens SpaceX-sjef Elon Musk skrev på X at «Dario har rett».

Ifølge regelverket skal Microsofts modeller ikke gå inn i forespørsler om våpenproduksjon, bistå med anskaffelse av farlige stoffer, oppmuntre til usunt kosthold eller produsere voldelig eller seksuelt eksplisitt innhold. Modellene skal heller ikke sette seg egne mål eller skjule feiltrinn.

«MAI-modeller vil ikke manipulere tankekjeder eller kode, eller fremstille feilaktig eller skjule sine resonnementer eller handlingsspor,» heter det i dokumentet.

Microsoft ber nå om innspill før en oppdatert versjon publiseres, som skal ligge til grunn for utviklingen fra 2027, forteller CNBC.