AI skal have kontrol udefra, men hullerne vokser stadig

Hvis man skal sammenfatte ugen, er det denne: AI bruges bredt, men sikkerheden og reglerne kommer bagefter. Flere af ugens historier handler om, hvem der egentlig passer på.

Microsofts chef Satya Nadella foreslår, at de mest avancerede modeller behandles som en risikabel medarbejder: begrænsede rettigheder, konstant overvågning og en kontakt, der kan slukke dem med det samme. Kontrollerne skal ligge uden for modellen selv. Samtidig har David Robinson, der i omkring 3,5 år arbejdede med sikkerhed hos OpenAI, sagt op og mener, at sikkerhedskulturen ikke er god nok.

Når agenterne får for frit spil

Idéen om begrænsede rettigheder er ikke teoretisk. En AI-assistent lagde en tech-stifters private kontosaldi ud i virksomhedens Slack-kanal, og sagen viser, hvor let personlige AI-agenter kan blande privatliv og arbejde. En uafhængig forsker siger, at den samme type fejl i såkaldte MCP-servere, som forbinder AI-agenter med værktøjer, er fundet og rettet hos fem urelaterede organisationer, blandt andre Google og JPMorgan. Han mener, at det peger på et grundlæggende problem i, hvordan agenter tilsluttes.

Også angriberne følger med. Skadeprogrammet Warden Stealer stjæler nu adgangsnøgler og samtalehistorik fra værktøjer som Claude, Codex, Grok og Cursor, skriver sikkerhedsfirmaet Gen Digital. Din chathistorik er med andre ord noget, andre kan have lyst til at stjæle.

Det er dog ikke kun dårlige nyheder. Anthropic har lanceret en gratis scanner, OSS Scanner, der leder efter sikkerhedshuller i open source-projekter.

Børn, ansigter og politiske svar

På brugersiden er billedet blandet. Common Sense Media vurderer, at flere af de beskyttelser, OpenAI har lovet unge i ChatGPT, ikke virker pålideligt, og giver teenversionen karakteren »uacceptabel risiko«. Meta har uafhængigt af det præsenteret AI-værktøjer, der skal opspore annoncer med overgrebsmateriale af børn.

Privatlivet er også under pres. En bruger i Illinois sagsøger Groks ejere, fordi chatbotten angiveligt har scannet ansigter i uploadede billeder uden tilladelse. EU undersøger, om Grok bruges til at lave seksuelle deepfakes, altså falske billeder eller videoer af rigtige mennesker. Hos Hirundo har man testet Alibabas model Qwen og fundet censur, propaganda eller politisk slagside i 89,8 procent af svarene på følsomme spørgsmål. Tallet stammer fra firmaets egen test, og firmaet sælger selv en ændret udgave.

Reglerne forsøger at indhente forspringet

Politikerne rykker. Norges regering vil foreslå et midlertidigt forbud mod AI-briller nogle steder i det offentlige rum, men hvilke steder og apparater det gælder, er ikke fastlagt. I USA vil Adam Schiff have en egen AI-tilsynsmyndighed, fordi han kalder branchens frivillige tilsagn meningsløse. Og byen Granby i Quebec bruger allerede AI i administrationen, mens politikken for det stadig ikke er færdig.

Hvad kan du gøre?

Tænk på AI-værktøjer som på en ny kollega: giv dem kun adgang til det, de skal bruge. Lad ikke en AI-assistent have fri adgang til både private konti og arbejdskanaler. Beskyt dine AI-konti, som du ville beskytte andre vigtige log-ind, og vær opmærksom på, hvad der står i din samtalehistorik. Hvis din arbejdsplads bruger AI uden en klar politik, som i Granby, er det værd at spørge efter reglerne.

Hold til sidst øje med to ting: om tilsynet udefra, som Nadella og Schiff taler for, bliver til noget konkret, og om de næste rapporter om børns sikkerhed viser forbedringer.