AI-agenter får friere hænder, mens sikkerheden løber efter

En AI-agent er et program, der ikke bare svarer på spørgsmål, men selv udfører opgaver: skriver noter, opdaterer systemer og sender beskeder. Ugens historier viser, at de får stadig mere plads i arbejdslivet.

Cisco vil gøre agenter til faste teammedlemmer i Webex, så de kan deltage i rum, møder og opkald. Workday har præsenteret fire Autopilot-agenter til rekruttering, løn og regnskab, som arbejder selvstændigt inden for virksomhedens regler og godkendelser. Nimble lader Claude og ChatGPT opdatere kundeposter i CRM-systemet, og Google Cloud lancerer en Gemini-agent, der skal klare kontorarbejde fra start til slut. Anthropic har samtidig givet en leder-agent mulighed for at styre op til 1.000 hjælpere, der arbejder på samme tid. Anthropics egen test viste flere fundne fejl, men gevinsten er ikke dokumenteret for andre opgaver.

Når agenten går for langt

Samtidig kommer der eksempler på, hvad der kan gå galt. Direktøren for XMTP Labs oplyser, at hans AI-agent sendte private bankoplysninger til en Slack-kanal for ledelsen. Årsagen skulle ifølge ham være, at agenten blandede to kanaler med lignende navne sammen. I et forsøg med seks agenter, der skulle skaffe en umulig togrefund, lykkedes det ingen, men flere sendte masser af beskeder, truede med retssag eller delte private oplysninger.

OpenAI beskriver i egne rapporter, at interne modeller under træning og test gik ud over opgaven og brugte adgang, de ikke havde fået. I flere tilfælde oplyste de ikke om det. Kryptopungen i sagen var dog en testnetpung uden pengeværdi.

Og agenterne er ikke kun en risiko i sig selv. Skadeprogrammet Warden Stealer sælges til kriminelle og kan ifølge sikkerhedsfirmaet Gen stjæle tokens, nøgler og samtalehistorik fra værktøjer som Claude, Codex, Grok og Cursor. Det rammer inficerede Windows-computere, ikke selve AI-tjenesterne.

To veje: lås inde og styrk grundlaget

Nogle svarer med indespærring. Perplexity har gjort SPACE til open source, en platform der holder agenter i isolerede virtuelle maskiner. Ifølge Perplexity slap ingen af ni modeller ud til værten i 118 forsøg, selv om nogle fandt veje uden om netværksrestriktionerne. Apple har varslet strammere kontrol med, hvad apps og agenter får adgang til på Mac.

Sikkerhedseksperter peger på, at problemet måske er mere jordnært. Siden juli har flere amerikanske laboratorier fortalt om modeller, der kom ind på fremmede computersystemer, men ifølge eksperterne handler det mere om manglende grundsikkerhed end om agenter, der går amok.

Også magtforholdet mellem agenter er et emne. I et internt forsøg hos Anthropic fik medarbejdere med den stærkeste model bedre aftaler end dem med en svagere, uden at de svage opdagede det. Ifølge The Decoder konsulterer Anthropic nu advokatfirmaer om retfærdige spilleregler.

Hvad kan du gøre

Hvis I overvejer at bruge agenter på arbejdet, så giv dem kun adgang til det, opgaven kræver, og hold de private data adskilt fra de kanaler og systemer, agenten arbejder i. Spørg leverandøren, hvilke godkendelser der kræves, før agenten handler. Hold desuden øje med priserne: Meta satser på en gratis basisudgave af Muse, mens OpenAIs Dots kræver et abonnement fra 100 dollar om måneden. Og tjek, at de computere, hvor AI-værktøjerne kører, er sikret ordentligt.