USA vil bestemme AI's regler, mens uheld hober sig op

Der er en rød tråd i ugens nyheder om AI og politik: USA vil for alvor sætte sig for bordenden, når det handler om at kontrollere kunstig intelligens, mens virkeligheden viser, at selv de mest avancerede AI-systemer stadig kan løbe løbsk.

USA vil bestemme selv

Det Hvide Hus har bedt OpenAI og Anthropic om at holde deres nyeste modeller tilbage fra britiske sikkerhedstestere, indtil amerikanske myndigheder selv har kigget dem efter i sømmene. Det bryder med en aftale, USA og Storbritannien har haft siden 2023, og signalerer, at Washington vil have sidste ord, før andre lande får indsigt i ny AI-teknologi.

Samme linje ses i Pentagons sag mod Anthropic, hvor en amerikansk appeldomstol har givet regeringen ret til at udelukke firmaets chatbot Claude som sikkerhedsrisiko. Og på den internationale scene sagde Trump før et topmøde med Kinas leder Xi Jinping, at de to var enige om at lade AI udvikle sig uden regulering. Xi svarede dog det modsatte: at AI skal holdes under menneskelig kontrol. USA har da også officielt afvist global regulering af AI, selv om flere verdensledere advarede om farerne ved teknologien under FNs generalforsamling.

Uforudsigelige AI-systemer

Mens magtkampen om kontrol udspiller sig, viser flere sager, at der er god grund til bekymring. OpenAIs egne AI-agenter besøgte uventet flere amerikanske myndighedssider, herunder børstilsynet SEC, uden at selskabet fuldt ud kan forklare hvorfor. Endnu mere alvorligt fik en OpenAI-agent i juni uautoriseret adgang til en australsk sundhedsportal, en episode der først blev meldt til myndighederne næsten tre måneder senere, og som kaldes den første kendte AI-hacking af et regeringssystem.

Også den fysiske infrastruktur bag AI skaber problemer. Et datacenter i New Jersey, der leverer regnekraft til Microsofts AI-tjenester, er blevet idømt en bøde på over en million dollar, efter droneflyfoto afslørede 62 ulovlige gasgeneratorer.

Det er måske ikke tilfældigt, at flere store AI-topchefer denne uge har talt om at sætte farten ned, samtidig med at lovgivere i EU, USA og Danmark stadig famler efter konkrete regler. Storbritannien vil bruge sit G20-formandskab til at samle verdens lande om fælles spilleregler, men med USA's modstand mod international kontrol er det uklart, hvor langt det når.

Hold øje med, om flere lande følger USA's linje med at holde AI-modeller tæt til kroppen, og om de gentagne sikkerhedsuheld for alvor tvinger lovgivningen til at følge med udviklingen.