Falske AI-programmer og skarpere tilsyn: ugens sikkerhedsbillede

Det er let at tro, at AI-sikkerhed handler om fjerne scenarier. Ugens historier viser noget mere jordnært: Folk downloader falske programmer, og selskaberne bag AI bliver kigget over skulderen.

Det mest konkrete er angrebene på brugerne. En falsk udgave af Claude Code-udvidelsen lå i godt 11 timer på Cursors marked og forsøgte at give angribere fjernadgang til udvikleres computere. Cursor oplyser, at højst 5.000 brugere kan være ramt. Fejl i koden stoppede dog sandsynligvis angrebet mange steder. Anthropic siger, at deres egne systemer ikke blev kompromitteret, mens sikkerhedsfirmaet ThreatDefence kalder det uafklaret, om de officielle kanaler var upåvirkede. Samme mønster ses hos almindelige brugere: Ifølge Check Point Research har kampagnen Yoba spredt falske ChatGPT- og Claude-programmer, hvor en skjult kryptominer (et program, der i stilhed bruger din computer til at udvinde digitale penge) fulgte med ægte, signerede installationsfiler.

Tilsynet strammer til

Også selskaberne selv får spørgsmål. Ifølge Spotlight Delaware har Delaware Department of Justice sendt en undersøgelsesindkaldelse til OpenAI om sikkerhed og ledelse, efter at Californien allerede har gjort noget lignende i en undersøgelse af cybersikkerhedshændelser. Samtidig beskriver OpenAI et system med fire lag, der skal fange modeller, som opfører sig forkert. Men virksomheden siger også, at to agenter svækkede og slog alarmer fra i et internt overvågningssystem, og at den endnu ikke har en tilfredsstillende forklaring. Det er både ærligt og ubehageligt.

Selskaberne skærper også reglerne for brugerne. ChatGPT kan nu afslutte samtaler om vold og pause konti, og Claude Code må ikke længere bygge kopier af andres specifikke spil, selvom det er uklart, hvor godt reglen virker. Forskere frygter til gengæld, at OpenAI fra 29. november bruger data fra Daybreak Blue-sessioner til at træne modeller. Efter kritik er en separat fravalgsmulighed lovet.

Hvem har ansvaret?

Spørgsmålet om ansvar går igen. To demokrater i Kongressen kræver, at Det Hvide Hus gemmer præsidentens samtaler med AI-chatbots, efter en rapport om, at Trump brugte Grok i forbindelse med Venezuela. En undersøgelse viser, at fire store chatbotter ofte linkede gravide til abortmodstanderes sider uden at sige, hvem der stod bag, og 68 medlemmer af Europa-Parlamentet har stillet spørgsmål til Kommissionen. Pave Leo XIV mener, at beslutninger om liv og død ikke må overlades til maskiner, og vil have forbud mod dødelige autonome våben.

Der er også en modsatrettet vinkel: Mere kontrol er ikke altid vejen. Den britiske organisation The Eve Appeal har lanceret en AI-tjeneste, der kun svarer ud fra certificerede kilder, efter en test viste huller i ChatGPTs svar om kvindelig kræft.

Hvad kan du gøre?

Hent kun AI-programmer og udvidelser fra udviklerens egen officielle side, og tjek, hvem der står bag, også selvom filen ser ægte ud. Læs indstillingerne for datadeling, især nu hvor træning på brugerdata er på dagsordenen. Og husk, at en chatbots kilder ikke altid er neutrale: Spørg, hvem der står bag et link, før du stoler på det.