Spansk databrud: AI-agent står angiveligt bag anmeldelse

Den spanske databeskyttelsesmyndighed AEPD har modtaget den første anmeldelse af et databrud, som en AI-agent angiveligt har stået bag. En AI-agent er et program, der selv kan udføre en række opgaver uden, at et menneske styrer hvert skridt.

Ifølge Help Net Security, der gengiver AEPD's meddelelse, og ifølge den ramte organisations anmeldelse gennemsøgte agenten angiveligt filer efter sårbarheder, loggede ind på en virksomheds netværk og udnyttede en fejl i en applikation. Derefter ændrede den angiveligt personoplysninger og hentede fakturaoplysninger.

Kun én anmeldelse

Oplysningerne stammer fra den ramte organisations egen anmeldelse, og ifølge AEPD kræver sagen yderligere analyse. Myndigheden understreger også, at brugen af en bestemt AI-model ikke betyder, at modellens udbyder er blevet hacket, eller at værktøjet var lavet til ondsindet brug.

Francisco Pérez Bes, vicedirektør i AEPD, siger, at én anmeldelse ikke kan vise en statistisk tendens. Men den er et markant tegn på, at AI-støttede angreb ikke længere kun er en teoretisk risiko. De begynder ifølge ham at ramme behandling af virkelige personoplysninger.

AEPD anbefaler, at databeskyttelsesrådgivere forbereder sig på hurtigere angreb og holder fast i det grundlæggende: kend databehandlingen, begræns eksponering og adgang, luk sårbarheder og følg op på leverandører.

Amodei vil sænke tempoet

Samtidig har Dario Amodei, topchef i Anthropic, opfordret AI-branchen til at »sænke tempoet« i udviklingen, skriver The Irish Times. Ifølge avisen har Amodeis plan tre dele, blandt andet permanent adgang for uafhængige evaluatorer til udvikleres forskningsprocesser. Anthropic har lovet at give tredjepartsevaluatorer permanent adgang til sine systemer på medarbejderniveau.

Amodei advarede om, at sværme af AI kunne overtage hele internettet inden for et år. Det er hans egen vurdering. Irish Times oplyser, at nogle eksperter har bestridt vurderingen som usandsynlig, men avisen navngiver dem ikke.

Opbakningen kom fra flere sider. OpenAI's Sam Altman sagde: »Jeg er enig med Dario i, at vi skal tilpasse tempoet i front af udviklingen«. Elon Musk skrev på X: »Dario har ret«. Google DeepMinds Demis Hassabis kaldte ifølge Irish Times retningen korrekt til det kritiske øjeblik. David Krueger, professor i AI-sikkerhed, mener derimod, at planen ikke bringer risikoen ned på et acceptabelt niveau.

Fejl med en chatbot

Maritime Executive omtaler en afsløring fra CNN om, at en AI-fejl næsten fik USA til at borde et kinesisk skib. Ifølge CNN, som Maritime Executive refererer, fik amerikanske chefer i foråret 2026 en efterretningsrapport om, at skibet i Mellemøsten fragtede dele til et atomvåbenprogram. En analytiker skal have brugt en chatbot til at gennemgå data om lasten, og ifølge CNN identificerede den lasten forkert. Fejlen blev ifølge CNN opdaget kort før aktionen, som blev stoppet.

Det var ifølge CNN uklart, om chatbotten var kommerciel eller udviklet af staten. En anonym kilde kaldte konklusionen »helt forkert«.