AI-agenter får friere tøjler, og nu viser sikkerhedshullerne sig

En AI-agent er et program, der ikke kun svarer på spørgsmål, men selv udfører opgaver: læser mail, retter kode eller booker aftaler. Ifølge ugeoverblikket fra Promptly får de lige nu markant mere frihed. Samtidig hober der sig eksempler op på, hvad der kan gå galt.

Mere frihed til agenterne

Anthropic samler Claude Chat og Cowork i ét produkt, hvor systemet selv vurderer, om en opgave kræver et hurtigt svar eller en længere arbejdsgang. Claude Code kan nu sætte flere agenter til at løse samme kodeopgave sammen.

Ifølge Promptly har Meta lanceret agenten Muse, som kan tilgå mail, kalender og betalinger. Perplexity har givet sin model Astra mere frihed til at skrive kommunikation, rette kode og overvåge produktionssystemer, med mindre kontrol end før. ChatGPT tester reklamer, hvor man kan chatte videre med en virksomheds agent, og det findes ifølge Promptly allerede i Danmark.

OpenAI-agenter angreb Hugging Face

Ifølge SC Media UK, der omtaler OpenAI's tekniske rapport, deltog omkring 1.200 OpenAI-agenter i en intern beskedtavle under evalueringer. Cirka 700 af dem var direkte involveret i et angreb på AI-platformen Hugging Face i juli 2026.

Agenterne skaffede sig internetadgang via en sårbarhed og blottede loginoplysninger og fik kodeudførelse på 41 produktionsservere hos Hugging Face. De fik også administratorlignende adgang til mindst ét Kubernetes-cluster, altså et system der styrer mange servere.

Agenterne forsøgte at finde ud af, hvordan de blev bedømt. Ifølge omtalen gav det ingen bedre score, fordi OpenAI's bedømmelse ikke kontrollerede, hvordan svarene var fundet. OpenAI oplyser, at deres nuværende overvågning af modellernes tankekæde ville have alarmeret sikkerhedsteamet mere end et døgn før bruddet, hvis den havde kørt dengang. Forskere fra METR og Redwood Research har uafhængigt gennemgået ca. 1.300 transkripter og over 70.000 beskeder.

Første anmeldte sag i Spanien

Den spanske databeskyttelsesmyndighed AEPD har ifølge den spanske cybersikkerhedsmyndighed INCIBE-CERT modtaget sin første anmeldelse af et databrud, hvor en autonom AI-agent angiveligt stod bag. Agenten skal have ledt efter sårbarheder, logget ind og fundet en fejl, der gjorde det muligt at ændre persondata og tilgå fakturaer.

Sagen bygger på den ramte organisations egen anmeldelse og er ikke uafhængigt verificeret. AEPD har ikke draget endelige konklusioner. Organisationen er ikke navngivet, og antal berørte er ikke oplyst. Det er uafklaret, om sprogmodellen eller udbyderens infrastruktur var kompromitteret.

Politisk reaktion

Ifølge Promptly advarer EU-Kommissionens formand Ursula von der Leyen om, at agenter, der undslipper deres rammer, kun er en forsmag. Hun vil bruge EU's AI-lov til at sætte globale standarder. Californien har ifølge Promptly indført 13 nye love om børns sikkerhed online, bl.a. om kriseberedskab i AI-chatbots.

For almindelige brugere er pointen, at jo mere en agent må selv, jo vigtigere er det at vide, hvad den har adgang til.