California etterforsker Elon Musks KI-verktøy Grok

Delstatens justisminister Rob Bonta sier verktøyet tilsynelatende gjør det enkelt å trakassere kvinner og jenter med deepfake-bilder på X og andre nettsider.

– Skredet av meldinger om seksuelt eksplisitt materiale som xAI (Musks KI-selskap, red.anm.) har produsert og lagt ut på nettet uten samtykke de siste ukene er sjokkerende, sier han.

Musk lanserte i slutten av desember en egen funksjon for å redigere bilder i Grok, som er en integrert del av den sosiale medieplattformen X. I løpet av kort tid kom det fram at mange X-kontoer bruker den til å generere bilder av lettkledde og nakne kvinner og barn. I tillegg er det mulig å lage såkalte deepfakes – manipulerte bilder som er så realistiske at de vanskelig kan skilles fra virkeligheten.

Indonesia og Malaysia har siden forbudt Grok, flere land har truet med bøter og andre konsekvenser. Etterforskningen i California finner sted i delstaten der X har sine kontorer.