Fem slags spor kan afsløre, at et billede er lavet af AI

Billeder fra AI-værktøjer som Midjourney, Stable Diffusion og Firefly kan i dag se så ægte ud, at almindelige mennesker har svært ved at se forskel på dem og rigtige fotos. Det er baggrunden for en guide fra forskere ved Northwestern, som blev lagt ud som preprint på forskersitet arXiv den 12. juni 2024. En preprint er en forskningsartikel, som endnu ikke er blevet vurderet af andre forskere.

Forfatterne er Negar Kamali, Karyn Nakamura, Angelos Chatzimparmpas, Jessica Hullman og Matthew Groh. Guiden bygger på en gennemgang af 189 billeder: 138 lavet med såkaldte diffusionsmodeller (den type AI, der skaber billeder ud fra tekst), 9 udvalgt fra sociale medier og 42 ægte fotografier.

Fem slags tegn

Guiden deler de mulige spor i fem kategorier:

- Anatomiske tegn: forkerte fingre, øjne og kroppe, ekstra lemmer, mærkelige knæk og for mange tænder. - Stilistiske tegn: billedet virker plastikagtigt, blankt eller overdrevent filmisk og dramatisk. - Funktionelle tegn: tekst, man ikke kan læse, mærkeligt tøj og genstande, der ikke fungerer fysisk. - Fysikbrud: forkert lys, skygger eller umulige spejlinger. - Sociokulturelle tegn: scener, der virker utroværdige eller er historisk forkerte.

Ingen sikker metode

Forfatterne erkender, at fejlene ikke altid er der. Derfor kan man ikke sikkert afgøre, om et billede er AI-skabt, blot ved at kigge på det. Man har brug for kontekst eller metadata, altså oplysninger om billedets oprindelse.

Guiden er fra 2024, og billedmodellerne udvikler sig hurtigt. Nogle af tegnene kan derfor være blevet mindre pålidelige.

Mere AI-forståelse

I et interview med Scripps News siger Matt Groh fra Northwestern: »Media literacy is super awesome. But it needs to extend to AI literacy.« Medie- og AI-kompetencer bør altså hænge sammen, og guiden bør ifølge ham opdateres hvert år.

Cole Whitecotton fra National Center for Media Forensics mener, at alle bør prøve værktøjer som ChatGPT og Midjourney selv for at forstå teknologien.

For læseren betyder det, at en kritisk gennemgang af hænder, tekst, lys og scenen som helhed kan give mistanke. Men et billede, der ser fejlfrit ud, er ikke dermed bevist ægte.