Unicef ber land kriminalisere KI-generert overgrepsmateriale

Organisasjonen sier den er sterkt bekymret over meldinger om økning i bilder generert med kunstig intelligens som seksualiserer barn.

Unicef ber også utviklere innføre prinsipper om «sikkerhet ved design» og tydelige tekniske sperrer for å hindre misbruk av KI-modeller. Digitale selskaper bør samtidig stanse spredningen av slikt materiale ved å styrke innholdsmodereringen og investere i teknologi som kan avdekke overgrep, heter det.

– Skadene fra deepfake-misbruk er reelle og akutte. Barn kan ikke vente på at lovverket skal ta dem igjen, sier Unicef i en uttalelse. Deepfakes er KI-genererte bilder, videoer og lydopptak som på overbevisende vis utgir seg for å være ekte personer.

Unicef uttrykker også bekymring for det organisasjonen omtaler som «avkledning» av barn, der KI brukes til å fjerne eller endre klær i bilder for å skape konstruerte nakenbilder eller seksualiserte framstillinger.

Ifølge Unicef har minst 1,2 millioner barn i 11 land det siste året opplyst at bilder av dem er blitt manipulert til seksuelt eksplisitte deepfakes.

Storbritannia varslet lørdag at landet vil gjøre det straffbart å bruke KI-verktøy til å lage overgrepsbilder av barn, og blir dermed det første landet som innfører et slikt forbud.

Bekymringen har økt de siste årene rundt bruk av KI til å generere overgrepsinnhold, særlig knyttet til chatteboter som Grok, utviklet av xAI og eid av Elon Musk. Tjenesten har vært under gransking for å ha produsert seksualiserte bilder av kvinner og mindreårige.