Elon Musk-dominerte SpaceX og det heleide datterselskapet xAI er blant få utvalgte selskaper i en hemmelig Pentagon-regissert konkurranse om å utvikle stemmestyrt, autonom svermeteknologi for droner, melder Bloomberg.
Prosjektet markerer et nytt og et ifølge nyhetsbyrået potensielt kontroversielt steg for Musk, som i 2015 signerte et åpent brev fra AI- og robotikkforskere med advarsel mot utvikling av «nye verktøy for å drepe mennesker.»
Vil få droner til å fly i sverm
Anbudskonkurransen om en kontrakt på 100 millioner dollar ble lansert i januar, og skal over seks måneder utvikle teknologi som kan oversette talekommandoer til digitale instrukser og styre flere droner samtidig. Målet er å få droner til å operere autonomt i sverm, både i luften og til havs.
Konkurransen arrangeres av Pentagon-enhetene Defense Innovation Unit og Defense Autonomous Warfare Group, sistnevnte etablert under president Donald Trumps andre administrasjon. En forsvarstjenesteperson uttalte ved lanseringen at samspillet mellom menneske og maskin «direkte vil påvirke systemenes dødelighet og effektivitet.»
Bloomberg påpeker at xAI nylig startet en ansettelsesrunde for å rekruttere ingeniører med sikkerhetsklarering på «secret» eller «top secret»-nivå for å jobbe med føderale oppdragsgivere. Selskapet har ifølge sine hjemmesider inngått avtaler med Pentagon om å integrere Grok-chatboten i regjeringens systemer for å «styrke militært og sivilt personell.»
«Hallusinasjoner» bekymrer
Integreringen av chatboter og stemme-til-tekst-kommandoer i våpensystemer skaper ifølge nyhetsbyrået uro, også blant offisielle tjenestepersoner i forsvaret. Flere kilder understreker viktigheten av å begrense generativ AI til oversettelse av kommandoer, og ikke la teknologien styre droners bevegelser uten menneskelig kontroll.
Bekymringen er at store språkmodeller – som ligger til grunn for chatboter – er kjent for skjevheter og såkalte «hallusinasjoner», det vil si at de kan generere svar som ikke er forankret i virkeligheten. Pentagon lanserte i januar en strategi for å «slippe løs» AI-agenter på slagmarken, fra planlegging av militære operasjoner til potensielt dødelige angrep.
Nevnte ikke våpenteknologi
SpaceX har allerede kontrakter med forsvaret, men først og fremst for leveranser av raketter og satellitter – ikke programvare for angrepsvåpensystemer.
Da SpaceX og xAI for kun noen uker siden ble enige om å fusjonere i en avtale verdsatt til 1.250 milliarder dollar, skrev Musk i en uttalelse på SpaceX-hjemmesidene at målet med å kjøpe xAI var å skape «den mest ambisiøse, vertikalt integrerte innovasjonsmotoren på (og utenfor) jorden» – uten å nevne noe om våpenteknologi.
Bloomberg understreker videre at xAI ikke er det eneste avanserte AI-selskapet involvert i Pentagons droneprosjekt, og viser til sitt tidligere oppslag om at OpenAI er en av Applied Intuitions støttespillere.
Elon Musk
