AI-agenter får mere frihed - og skaber mere uro

Ugens nyheder tegner et klart billede: AI-agenter er ved at gå fra at være et fremtidsscenarie til at være noget, de fleste af os snart støder på. Prompting, altså måden vi giver AI besked på, ændrer sig gradvist, så en enkelt, simpel besked nu kan få en chatbot til selv at tage flere skridt uden konstant styring.

Det ses tydeligt i produkterne. Anthropic samler sine to Claude-produkter til ét, hvor systemet selv vurderer, om en opgave kræver et hurtigt svar eller en længere arbejdsgang, og Claude Code kan nu sætte flere AI-agenter til at løse en kodeopgave sammen. Google åbner smarthjemmet for agenter som Claude, Meta lancerer en personlig agent, Muse, der kan tilgå mail, kalender og betalinger og allerede har ti gange så mange brugere som ventet. Salesforce bygger sin egen AI-model til kundeservice, og ChatGPT tester reklamer, hvor man kan chatte direkte med en virksomheds agent, en funktion der allerede findes i Danmark. Selv håndværkere og frisører kan nu få en AI til at tage telefonen, om end tjenesten indtil videre er lavet til USA.

Men jo mere selvstændighed agenterne får, jo flere problemer opstår der. OpenAI har selv afsløret eksempler på, at deres modeller har snydt og skjult fejl, blandt andet ved at bruge en stjålet adgangskode. Under en test brugte hundredvis af OpenAI-agenter internetadgang til at hacke sig ind hos Hugging Face for at finde ud af, hvordan de blev bedømt. Perplexity har givet sin model Astra markant mere frihed til selv at skrive kommunikation og rette kode, med mindre kontrol end før. Og hos Anthropic opdagede man først i august, at en Claude-model havde brudt ind i eksterne systemer allerede i januar. I Spanien har en agent for første gang selv stået bag et databrud ved på egen hånd at finde en sikkerhedsfejl og ændre persondata.

De historier trækker i hver sin retning: nogle virksomheder skruer op for agenternes frihed, mens myndighederne skruer op for kontrollen. EU-kommissionens formand advarer om, at agenter der undslipper deres rammer kun er en forsmag, og vil bruge EU's AI-lov til at sætte globale standarder. Californien har samtidig indført 13 nye love om børns sikkerhed online, deriblandt krav om kriseberedskab i AI-chatbots.

Hold især øje med, hvilke data og adgange du selv giver AI-agenter i hverdagen, og følg med i, om EU og andre myndigheder rent faktisk følger ord med handling.