Elon Musk’ Twitter/X granskes i Europa, India og Malaysia etter at selskapets Grok-chatbot skal ha gjort det mulig for brukere å lage og dele AI-genererte seksualiserte bilder av kvinner og barn. Enkelte av bildene skal ha fremstilt seksuelle overgrep mot barn, ifølge CNBC.

I tillegg opplyser medietilsynet i Storbritannia at det har bedt X om informasjon om saken. 

I Brasil har et medlem av nasjonalforsamlingen bedt landets føderale påtalemyndighet og datatilsyn vurdere å stanse bruken av Grok inntil en etterforskning er fullført.

Nylig oppdatering

Saken kommer etter en økning i spredningen av ikke-samtykkebaserte intime bilder (NCII) på X, der innholdet skal være generert ut fra bilder eller videoer av ekte personer etter brukernes instrukser. 

xAI, som eier Grok, har nylig oppdatert bildeverktøyet Grok Imagine, som gjør det enklere å lage bilder fra tekstinstrukser, ifølge CNBC.

Mandag sa EU-kommisjonens talsperson Thomas Regnier at myndighetene «ser svært alvorlig på saken», og viste til at X og Grok skal ha tilbudt en modus for eksplisitt seksuelt innhold, inkludert resultater med «barnelignende» uttrykk.

– Dette er ulovlig. Dette er rystende. Dette har ingen plass i Europa, sa han.

Kraftig vekst

I India har departementet for elektronikk og informasjonsteknologi pålagt X å gjennomføre en «omfattende teknisk, prosessuell og styringsmessig gjennomgang» av Grok, med frist 5. januar. 

Malaysiske myndigheter opplyser også at de etterforsker X og vil innkalle representanter fra selskapet, skriver CNBC.

I USA har National Center on Sexual Exploitation bedt Justisdepartementet om å se på saken. En talsperson for Justisdepartementet sier at AI-generert materiale som viser seksuelle overgrep mot barn tas «svært alvorlig» og vil bli straffeforfulgt.

X uttalte i helgen at selskapet fjerner ulovlig innhold, suspendere kontoer og samarbeider med myndigheter ved behov. Ifølge analysetjenesten Apptopia har nedlastinger av Grok økt kraftig de siste dagene – opp 54 prosent siden 2. januar, samtidig som X også har økt.

Fortvilte franskmenn

Saken har også skapt reaksjoner i Frankrike. Den 2. januar meldte flere franske ministre Elon Musks AI-modell Grok inn til landets medietilsyn Arcom, etter at modellen skal ha generert det de omtaler som seksuelt og sexistisk innhold.

Næringsminister Roland Lescure, AI- og digitaliseringsminister Anne Le Hénanff og likestillingsminister Aurore Bergé skrev i en felles uttalelse at de «på det sterkeste fordømmer generering og spredning av sexistisk og seksuelt innhold uten samtykke».

Grok har selv erkjent at brudd på sikkerhetstiltak tidligere førte til at det ble generert «bilder som viser mindreårige i minimalt med klær», og har varslet at det er gjort forbedringer for å hindre lignende hendelser.