Open source-AI misbruges til billeder af børnemisbrug

Den britiske internetvagthund Internet Watch Foundation (IWF) advarer om, at AI-genereret materiale med seksuelt misbrug af børn ligger på et rekordhøjt niveau. Det fremgår af en rapport fra 24. marts 2026.

IWF fandt 8.029 AI-skabte billeder og videoer, der realistisk viser seksuelt misbrug af børn. Det er 14 procent flere end året før. Mest markant er det for video: IWF identificerede 3.443 AI-videoer i 2025 mod 13 året før. Det svarer til en stigning på over 26.000 procent.

Hvorfor open source-modeller?

Open source betyder, at en AI-model er frit tilgængelig, så alle kan hente den og køre den på egen computer. Det er normalt en styrke, fordi forskere og små virksomheder kan bruge modellerne. Men det giver også et problem.

Kører modellen på en privat computer, er der ingen firmafiltre eller kontrol, der kan stoppe misbrug eller opdage det. IWF beskriver, at gerningspersoner på mørke fora diskuterer teknologien og deler billeder, modeller, vejledninger og tips.

Det gør det nemmere, at man kan finjustere en model med en teknik kaldet LoRA. Ifølge omtalen af rapporten kan man lave realistiske falske billeder af et bestemt barn med blot 20-30 billeder, og træningen kan tage under en kvart time.

Ikke et offerløst problem

IWF afviser, at AI-skabt materiale er en forbrydelse uden ofre. Organisationen peger på, at modellerne kan lære af eksisterende misbrugsbilleder, så de virkelige ofre bliver krænket igen og igen.

Hvad kan der ske?

IWF kræver ordentligt tilsyn med AI-modeller, før de kommer på markedet eller frigives som open source. Problemet kan derfor få betydning for den kommende regulering af AI, hvor spørgsmålet er, hvor langt udviklere skal stå til ansvar for misbrug af modeller, de selv har lagt frit ud.

For almindelige forældre er budskabet, at emnet også handler om børns billeder på nettet. Billeder, der er delt åbent, kan i princippet bruges til at lave falske billeder. Overvej derfor, hvad I deler offentligt. Mistænkeligt materiale kan indberettes til Red Barnets hotline.