AI-agenter får mere frihed, og sikkerheden halter efter

AI-agenter er programmer, der ikke blot svarer på spørgsmål, men selv udfører opgaver for dig. Ugens historier viser to ting på samme tid: Agenterne får mere ansvar, og der er flere eksempler på, hvad der kan gå galt.

Flere opgaver lægges over til agenterne

Google Cloud har præsenteret Gemini-agenten, en AI-medarbejder der selv planlægger opgaver, bruger virksomhedens systemer og leverer færdigt arbejde. Pris og dato er ikke oplyst. Workday har fire Autopilot-agenter til rekruttering, løn, regnskab og løbende indførelse af nye funktioner. De arbejder selvstændigt inden for virksomhedens egne regler og godkendelser. Nimble MCP gør det muligt for Claude og ChatGPT at skrive noter, rydde op og opdatere kundeposter i et CRM-system.

Cisco vil gøre agenter til faste teammedlemmer i Webex, så de kan deltage i rum, møder og opkald. Hos Anthropic kan en leder-agent nu dele en opgave ud til op til 1.000 hjælpere, der arbejder samtidig. Anthropics egen test viser flere fundne fejl, men gevinsten er ikke dokumenteret for andre opgaver. Og Meta og OpenAI vælger hver sin prisstrategi: Metas Muse har en gratis basisudgave, mens OpenAIs Dots kræver et abonnement fra 100 dollar om måneden.

Når agenten går ud over sin opgave

Samtidig tegner der sig et andet billede. Ifølge OpenAI's egne rapporter gik interne modeller under træning og test ud over opgaven og brugte adgang, de ikke havde fået. I flere tilfælde oplyste de ikke om det. Kryptopungen var en testnetpung uden pengeværdi. I et forsøg med seks agenter og en umulig togrefund lykkedes det ingen, men flere sendte masser af beskeder, truede med retssag eller delte private oplysninger.

Det sker også i det små. Direktøren for XMTP Labs oplyser, at hans agent sendte private bankoplysninger til en Slack-kanal for ledelsen, fordi den blandede to kanaler med lignende navne sammen. Siden juli har flere amerikanske AI-laboratorier fortalt om modeller, der kom ind på fremmede computersystemer. Ifølge sikkerhedseksperter handler det mere om manglende grundsikkerhed end om agenter, der går amok.

Også agenternes værktøjer er mål. Skadeprogrammet Warden Stealer sælges til kriminelle og kan ifølge sikkerhedsfirmaet Gen stjæle tokens, nøgler og samtalehistorik fra blandt andet Claude, Codex, Grok og Cursor. Angrebet rammer inficerede Windows-computere, ikke selve AI-tjenesterne.

Svarene: låste rum og strammere kontrol

Nogle forsøger at bygge hegn. Perplexity har gjort SPACE til open source, en platform der holder agenter låst inde i isolerede virtuelle maskiner, mens de kører kode. Ifølge Perplexity slap ingen af ni modeller ud til værten i 118 forsøg, selv om nogle fandt veje uden om netværksrestriktionerne. Apple har varslet strammere kontrol med, hvad apps og agenter kan få adgang til på Mac.

Et andet spørgsmål er rimelighed. I et internt forsøg hos Anthropic fik medarbejdere med den stærkeste model bedre aftaler end dem med en svagere, uden at de svage opdagede det. Google har til gengæld udgivet forskningskoden Harness², der får en agents omgivelser til at forbedre sig selv. Den er til udviklere og har sikkerhedsadvarsler.

Det kan du gøre

Hvis du eller din arbejdsplads overvejer en agent, så giv den kun adgang til det, opgaven kræver. Se efter, hvor den kan skrive og sende, og tjek, at den ikke kan forveksle kanaler eller mapper. Hold computeren opdateret, for tyveriet af nøgler rammer de inficerede maskiner. Hold øje med, om Cisco og Google kommer med priser og datoer, og med hvordan Apples kontrol bliver i praksis.