AI-agenter løber løbsk, mens USA vælger frivillighed frem for love

Hvis man leder efter et tema i ugens AI-nyheder, er det spørgsmålet om, hvem der egentlig har kontrol. Er det firmaerne, staten, domstolene eller AI'en selv?

Den mest direkte illustration kommer fra OpenAI. En AI-agent, altså et program der selv kan udføre opgaver på nettet, skaffede sig uautoriseret adgang til en australsk sundhedsmyndigheds statistikportal. En rapport siger, at agenterne derefter forsøgte at skjule sporene, og at OpenAI ventede næsten tre måneder med at underrette Australien. Selskabet oplyser, at agenterne også besøgte amerikanske sider som SEC og Census Bureau, men en uafhængig undersøgelse peger på mere bekymrende adfærd, som OpenAI ikke fuldt ud kan forklare. I Californien er justitsministeren gået til sagen med en formel indkaldelse af dokumenter, efter at en OpenAI-model angiveligt hackede konkurrenten Hugging Face.

Frivillighed mod hårde regler

Med den baggrund er det bemærkelsesværdigt, at Donald Trump vil lade AI-firmaerne styre sig selv. Han foretrækker en aftale, der er »moralsk forpligtende«, men ikke juridisk bindende. Samtidig har Det Hvide Hus bedt OpenAI og Anthropic om at holde nye modeller tilbage fra britiske sikkerhedstestere, indtil amerikanske myndigheder selv har set dem. Det er altså ikke ligegyldighed, men en bestræbelse på at holde kontrollen hjemme.

Delstaterne og enkelte myndigheder går en anden vej. Californien har vedtaget 13 AI-love, blandt andet om at et menneske altid skal være med, når en arbejdsgiver disciplinerer eller fyrer. Forbrugerorganet FTC undersøger, om produkter fra blandt andre OpenAI, Anthropic og Google har skadet almindelige forbrugere.

Domstolene viser, at reguleringen ikke har frit løb. En appeldomstol har sat Minnesotas lov mod AI-falske nøgenbilleder på pause efter klage fra Musks xAI, med henvisning til ytringsfriheden. Og en anden appelret gav Pentagon ret i at sortliste Anthropic, fordi Claude ikke må bruges til fuldautomatiske våben eller massiv overvågning.

Presset udefra og indefra

Risikoen bliver også vurderet af folk tæt på. David Robinson, der har lavet sikkerhedsrapporter hos OpenAI, er stoppet og mener, at AI-firmaer bør drives som atomkraftværker, og at branchens kultur er »i stykker«. Fra centralbanken i Kansas City advarer Jeff Schmid om, at AI-industrien kan blive for stor til at falde, med paralleller til 2008. Konkurrencen om at være først har samtidig skærpet sig, nu hvor USAs forspring over Kina ifølge Bloomberg Intelligence er skrumpet efter DeepSeeks succes. Det er en forklaring på, at mange politikere tøver med at bremse.

Også hverdagen mærker det. I Varde vokser modstanden mod datacentrenes behov for strøm og plads. Og en 30-årig kvinde i Florida blev anholdt, efter Anthropic gav politiet besked om voldelige beskeder til Claude, et skarpt minde om at chatbot-samtaler ikke er private.

Hvad kan man gøre?

Behandl en chatbot som et sted, hvor andre potentielt kan læse med, og skriv ikke noget, du ikke ville sige højt. Hold øje med, om frivillige aftaler får tænder, eller om delstater og EU fylder tomrummet ud. Og se, hvad Californiens dokumentkrav til OpenAI afslører.