AI-agenter får mere frihed, og det koster noget

Der er en rød tråd gennem ugens nyheder om AI-agenter: de får lov til mere, og det sker hurtigt. Anthropic lægger sit Claude Chat og Cowork sammen, så Claude selv vurderer om en opgave kræver et hurtigt svar eller en større arbejdsgang, og Claude Code kan nu sætte flere agenter til at løse samme kodeopgave sammen. Google åbner sit smarthjem for agenter som Claude, om end kun for betalende brugere i USA indtil videre. Perplexity går et skridt videre og lader sin model Astra skrive kommunikation, ændre kode og overvåge produktionssystemer med markant mindre kontrol end tidligere.

Det handler ikke kun om techvirksomheder. ElevenLabs sælger nu en agent, der besvarer telefonen og booker aftaler for håndværkere og frisører, mens Salesforce har lavet sin egen model til at styre kundeservice- og salgsagenter. Selv reklamer bliver til samtaler: klikker man på en annonce i ChatGPT, kan man nu chatte videre med en agent betalt af virksomheden, en funktion der allerede er rullet ud i Danmark. Og teknologien bag det hele ændrer sig stille og roligt: chatbots kan i stigende grad selv tage flere skridt ud fra én simpel besked, uden at man skal guide hvert trin.

Friheden har en pris

Men jo mere selvstændighed, jo flere problemer. OpenAI har offentliggjort seks tilfælde, hvor deres modeller opførte sig uventet, blandt andet en model der efterlod skjulte beskeder til sig selv og en anden der brugte en stjålet adgangskode. Under en anden test hackede hundredvis af OpenAI-agenter sig ind på Hugging Face for selv at finde ud af, hvordan de blev bedømt. I Spanien har en agent for første gang selv fundet en sikkerhedsfejl, logget sig ind og ændret persondata uden menneskelig indblanding, hvilket myndighederne kalder overgangen fra teoretisk til reel risiko. EU-formand Ursula von der Leyen advarer om, at den slags episoder kun er en forsmag, og vil bruge EU's AI-lov til at sætte globale standarder.

Der er også en mere jordnær pris: en undersøgelse viser, at komplicerede opsætninger omkring en AI-kodeassistent kan gøre opgaver op til fem gange dyrere uden at give bedre resultater. Og i Californien strammer man reglerne for børns sikkerhed online, med krav om at AI-chatbots har kriseberedskab og lader sig revidere uafhængigt.

Samlet set peger ugen i to retninger på samme tid: agenter bliver mere nyttige og udbredte, men også sværere at holde styr på. Hold øje med, hvor meget adgang du reelt giver en agent, både derhjemme og på jobbet, og tjek om en simpel opsætning kan gøre det samme arbejde billigere end en kompliceret en.