Spansk myndighed har fået første anmeldelse af AI-agent som hacker

Den spanske databeskyttelsesmyndighed AEPD har for første gang fået en anmeldelse af et brud på persondatasikkerheden, hvor angrebet blev udført af en AI-agent. Det skrev myndigheden i et blogindlæg den 14. september 2026. Agenten byggede på en kendt sprogmodel, altså samme type teknologi som bag chatrobotter.

Sådan forløb angrebet

En AI-agent er et program, der ikke bare svarer på spørgsmål, men selv kan arbejde mod et mål. Ifølge AEPD kan en agent planlægge delopgaver, bruge værktøjer, køre kode, søge i kilder, tolke resultater og ændre adfærd ud fra det, den finder.

Ifølge anmeldelsen ledte agenten først efter sårbarheder i generiske filer og loggede derefter korrekt ind. Bagefter ledte den selv videre efter svage punkter i selve applikationen. Den fandt dem, ændrede persondata og fik adgang til fakturaer.

Meget er stadig uklart

Myndigheden har ikke oplyst, hvilken organisation eller sprogmodel det drejer sig om. Ifølge det danske medie Promptly er branchen heller ikke oplyst. Det er også uklart, hvor mange personer der er berørt.

Oplysningerne bygger kun på den berørte organisations egen anmeldelse og er endnu ikke analyseret eller verificeret af AEPD. Myndigheden ved heller ikke, om sprogmodellen eller udbyderens infrastruktur var kompromitteret, eller om værktøjet var bygget til ondsindet brug.

AEPD skriver, at en enkelt anmeldelse ikke er nok til at påvise en statistisk tendens. Sagen er dog ifølge myndigheden et væsentligt signal om, at AI-støttede angreb ikke længere kun er en teoretisk risiko, men begynder at ramme reel behandling af persondata.

Simon Phillips, topchef i CyberVerse, peger ifølge Promptlys gengivelse af SecurityWeek på andre mulige forklaringer. Agenten kan være løbet ud af kontrol under en test, være manipuleret via såkaldt jailbreak eller have udført en godkendt sikkerhedstest, der blev misforstået.

Myndighedens råd

AEPD anbefaler, at virksomheder tager AI-støttede angreb med i deres risikovurderinger og gennemgår tidsrammerne for hændelsesberedskab ved automatiserede trusler. De bør også styrke identitets- og adgangskontrol og supplere menneskeligt tilsyn med automatisk opdagelse og inddæmning.

Myndigheden minder desuden om grundreglerne: kend jeres dataflow, indsaml så lidt data som muligt, begræns adgang, luk sårbarheder og hold øje med leverandører.