AI får flere nøgler til dit digitale liv, og angriberne følger med

Det går igen i ugens nyheder: jo mere AI må gøre på vores vegne, jo vigtigere bliver det, hvem der har nøglerne.

Når hjælperen bliver et indgangspunkt

Sikkerhedsfirmaet Forever Security advarer om et angreb, hvor en hjemmeside lægger en skjult instruktionsfil i Downloads-mappen, som AI-kodeagenter derefter følger. Firmaet oplyser selv succesraterne fra egne tests. Et andet eksempel er det populære værktøj LiteLLM, hvor version 1.107.0 den 21. oktober blev kompromitteret med skadelig kode, der stjæler adgangsoplysninger og giver angriberen fjernadgang.

Angriberne bruger også selv AI. Sikkerhedsfirmaet Unit 42 beskriver en kriminel med få færdigheder, der brugte AI som rådgiver til at angribe to indiske universiteter, og som ifølge firmaet næppe kunne have klaret det uden. Straiker siger, at gruppen CyberCartel brugte flere AI-modeller mod over 400 banker i Latinamerika, men det er firmaets egen undersøgelse.

Forsvaret bygges ud

Heldigvis kommer der også værktøjer den anden vej. 1Password har lanceret en løsning, hvor AI-agenter kan logge ind på dine konti uden at se selve adgangskoden, og du godkender hver anmodning selv. Microsoft vil sætte såkaldte Guardian Agents, altså AI-vagter, til at overvåge andre agenter, fordi agenter ofte har flere rettigheder end nødvendigt. Anthropics Claude Security, som er i offentlig beta, scanner nu løbende kode og markerer fejl som rettet.

Privatliv er den anden front. OpenAI lader dig gemme udvalgte ChatGPT-samtaler bag en firecifret PIN. Meta arbejder på en privat tilstand i AI'en Muse, hvor samtaler skal være skjult for Meta selv, men der er kritik af, at Meta ikke har vist, hvordan det skal fungere. Samtidig siger Claroc, at over 6.800 adresser til delte Muse-samtaler kan findes af fremmede, nogle med personlige oplysninger. Googles nye privatlivsregler fra 16. oktober 2026 kan ifølge en gennemgang betyde, at data fra Gmail, Kalender og Photos påvirker personaliseringen, hvis du forbinder dem til Google Søgning.

Myndigheder og blandede signaler

Politisk presses AI-selskaberne også. Texas har sagsøgt OpenAI og Sam Altman for at have vildledt om ChatGPTs sikkerhed og kræver blandt andet, at ChatGPT ikke udbydes til mindreårige i Texas. Storbritannien satser i den anden ende på AI som våben mod biologiske trusler med et nyt laboratorium og 100 mio. pund i statsstøtte. I Derbyshire undersøger tilsynet IOPC, om en detektiv brugte Microsoft Copilot uhensigtsmæssigt i straffesager, men det er kun påstande.

Billedet er ikke ensidigt negativt. Et nigeriansk studie med 371 voksne fandt ingen signifikante forskelle mellem ChatGPT og klinikere på kræftinformation. Til gengæld viser en undersøgelse, at chatbots, der tvinges til at pege på en kandidat, vælger side, selv om forbrugerversionerne nægtede at svare.

Hvad kan man gøre?

Giv ikke AI-værktøjer flere rettigheder, end opgaven kræver. Tjek, om samtaler du deler, kan findes af andre. Gennemgå privatlivsindstillinger, når reglerne ændres. Og behandl filer og pakker fra nettet med samme forsigtighed, uanset om det er dig eller din AI-assistent, der åbner dem.