Google åbner side der kan afsløre AI-fakes, men den har klare begrænsninger

Google har lanceret et værktøj, der skal gøre det lettere at se, om indhold er lavet af kunstig intelligens. Det hedder SynthID Detector og blev første gang vist frem på udviklerkonferencen Google I/O i 2025.

Man uploader et billede, en lydfil, en video eller en tekst til værktøjet. Det scanner derefter filen for et skjult mærke og viser, om mærket er fundet. Hvis det er, markerer værktøjet de dele af indholdet, hvor mærket sandsynligvis sidder.

Et usynligt vandmærke

Mærket kaldes SynthID. Det er et vandmærke, som man ikke kan se med det blotte øje. Google lægger det ind, når Googles egne AI-modeller laver indhold. Det gælder blandt andet Gemini, Imagen, Lyria og Veo.

Mærket sidder i selve billedets pixels. Det overlever derfor ofte, selv om oplysninger i filen (metadata) bliver fjernet, eller billedet bliver ændret. Værktøjet kan også opdage, at kun dele af et billede er lavet eller redigeret med AI.

Her er begrænsningerne

Værktøjet finder kun indhold, der er mærket med SynthID. Det er først og fremmest indhold fra Googles egne AI-værktøjer.

Billeder og videoer fra andre tjenester, for eksempel ChatGPT, kan det ikke afsløre, hvis de ikke bruger SynthID. Microsoft, Meta og OpenAI har deres egne metoder til at mærke AI-indhold, og de kan ikke aflæses af Googles værktøj.

Det betyder, at et resultat uden fund ikke er det samme som bevis for, at indholdet er ægte. Det kan lige så godt være lavet med et AI-værktøj, der ikke bruger Googles mærke.

Hvad betyder det for dig?

SynthID Detector er et nyttigt ekstra værktøj, hvis du er i tvivl om et billede eller en video, du har set. Hvis værktøjet finder mærket, er det et stærkt tegn på, at Googles AI har lavet indholdet.

Men du skal ikke stole blindt på det. Brug også sund fornuft: tjek, hvem der har delt indholdet, om det er omtalt af troværdige medier, og om det passer med andre kilder. Indtil flere firmaer bruger fælles mærkning, vil ingen enkelt detektor kunne fange alle AI-fakes.