Spansk tilsyn har fået første anmeldelse af AI-agent-angreb på persondata

Den spanske databeskyttelsesmyndighed AEPD har for første gang fået en anmeldelse af et brud på persondatasikkerheden, hvor angriberen brugte en AI-agent. Det skrev myndigheden på sin blog den 14. september 2026.

En AI-agent er et program, der ikke bare svarer på spørgsmål, men selv kan udføre en række handlinger efter hinanden. Her var agenten bygget på en kendt sprogmodel, altså den slags AI, der ligger bag chatrobotter.

Sådan forløb angrebet

Ifølge AEPD gik angrebet i flere trin. Agenten søgte først efter sårbarheder i generiske filer og loggede derefter ind med adgangsoplysninger. Herefter scannede den selv applikationen for svagheder og udnyttede dem til at ændre persondata. Til sidst fik den adgang til fakturaoplysninger.

Ifølge anmeldelsen var det en tredjepart, der brugte AI-agenten som redskab til at kæde de forskellige faser af angrebet sammen. Det var altså et menneske, der stod bag, og ikke en agent, der handlede helt på egen hånd.

AEPD understreger, at brugen af en bestemt AI-model ikke betyder, at modellen eller dens infrastruktur var kompromitteret. Det betyder heller ikke, at værktøjet var lavet til ondsindet brug. Det fremgår ikke af kilderne, hvilken organisation der blev ramt, eller hvilken model der blev brugt. Der er heller ikke oplyst noget om omfanget eller antallet af berørte.

Myndighedens vurdering og råd

AEPD vurderer, at AI-støttede angreb holder op med at være en teoretisk risiko og begynder at dukke op i virkelige hændelser. Myndigheden knytter sagen til databeskyttelsesforordningens artikel 32 om sikkerhed og artikel 33 om anmeldelse af brud.

AEPD anbefaler blandt andet, at virksomheder:

- tager AI-støttede angreb med i deres risikovurderinger - gennemgår deres reaktionstider, fordi manuelle procedurer kan være for langsomme - styrker styringen af identiteter og adgang - indfører automatisk opdagelse af angreb og automatisk reaktion - holder fast i grundprincipper som dataminimering, adgangskontrol og håndtering af sårbarheder

Menneskeligt tilsyn er stadig vigtigt, ifølge AEPD, men det skal understøttes af mekanismer til at opdage, begrænse og reagere på angreb, som kan arbejde hurtigt nok.

Mulige forklaringer

Simon Phillips, CTO i sikkerhedsfirmaet CyberVerse, har over for SecurityWeek peget på tre mulige scenarier. Én mulighed er, at en angriber omgik modellens sikkerhedsforanstaltninger, også kaldet et jailbreak. En anden er, at en model slap ud af et dårligt opsat testmiljø hos en AI-udvikler. Den tredje er, at penetrationstestere, der afprøver sikkerhed for kunder, havde bygget en tilpasset model oven på en udbredt sprogmodel.

Phillips mener, at jailbreak er det mest bekymrende, fordi det vil vise, at en angriber kan omgå kontroller. Det er hans egne bud og ikke fastslåede forhold i sagen.