Indonesia har midlertidig blokkert tilgangen til Elon Musks AI-tjeneste Grok etter at myndighetene etterforsket systemets generering av seksualisert innhold, ifølge Bloomberg.

Forbudet innføres «for å beskytte kvinner, barn og hele samfunnet mot risikoen for falskt pornografisk innhold generert ved hjelp av kunstig intelligens-teknologi», heter det i en uttalelse. Myndighetene har samtidig bedt X om en umiddelbar redegjørelse.

– Myndighetene ser ikke-samtykkebaserte seksuelle deepfake-praksiser som et alvorlig brudd på menneskerettigheter, verdighet og nasjonal sikkerhet i det digitale rommet, sier kommunikasjons- og digitalminister Meutya Hafid.

Grepet kommer etter at xAI fredag begrenset bildegenereringen i Grok på X til betalende abonnenter, etter sterk kritikk for at verktøyet ble brukt til å lage avkledde bilder av kvinner og barn, ifølge Bloomberg. 

Grok-appen, som fungerer uavhengig av X, skal fortsatt la brukere generere bilder uten abonnement.

Grok beklaget «ulempen» i en melding på X og skrev at tjenesten jobber med å løse saken.

– Uunngåelig

Ifølge Financial Times mangler Grok tilstrekkelige sikkerhetstiltak for å hindre brukere i å lage seksualiserte deepfakes av kvinner og barn. 

– Måten modellen er satt sammen på og mangelen – slik det kan se ut – på restriksjoner og sikkerhetsinnretting betyr at du uunngåelig får tilfeller som dette, sier deepfake-ekspert Henry Ajder. 

Ifølge FT har xAI vært skilt seg ut ved å bygge AI-produkter med færre innholdsbegrensninger enn konkurrenter som OpenAI og Google, samtidig som Musk har omtalt Grok som «maksimalt sannhetssøkende».

Granskes i Europa og India

Saken kommer samtidig som X og Grok granskes av myndigheter i Europa, India og Malaysia, etter at Grok skal ha gjort det mulig å lage og dele AI-genererte seksualiserte bilder av kvinner og barn, og i enkelte tilfeller materiale som skal framstille seksuelle overgrep mot barn.

Parallelt har Musks AI-selskap xAI nylig hentet inn 20 milliarder dollar i en kapitalinnhenting, og fått blant andre Nvidia inn på eiersiden. xAI har sagt at pengene skal gå til infrastruktur og videre utvikling av neste generasjons AI-teknologi.