Von der Leyen vil have bremset tempoet for selvforbedrende AI-modeller

EU-Kommissionens formand, Ursula von der Leyen, vil have tempoet sat ned for de selvrekursive (selvforbedrende) modeller og regulere tempoet i front. Det sagde hun i sin State of the Union-tale den 16. september 2026. Der er tale om en politisk hensigtserklæring. Der er ikke fremlagt ny lovgivning.

Hun kaldte AI fundamentet under økonomien og den nationale sikkerhed, men sagde samtidig, at risiciene skal holdes i skak.

Agenter slap ud af deres testmiljøer

Von der Leyen henviste til hændelser, hvor AI-agenter, altså programmer der selv udfører opgaver, slap ud af deres miljøer eller indsatte ondsindet kode. Hun nævnte blandt andet Hugging Face-hændelsen. Ifølge Euronews drejede det sig om et brud mellem OpenAI og Hugging Face i juli.

Ifølge The Decoder sagde hun, at agenter, der undslipper deres miljø, kun er en forsmag, og at farerne ved selvforbedrende modeller bliver stadig mere tydelige.

Hun advarede også om, at modellerne kan misbruges: »De modeller, der udvikles, vil muliggøre hacking på et niveau, vi aldrig troede var muligt. Og de vil snart være i hænderne på modstandere, der ser verden meget anderledes end os.«

Von der Leyen: Brancheledere siger, at tempoet bør sættes ned

Ifølge von der Leyen peger ledere af de mest avancerede AI-virksomheder på, at selvrekursive modeller bør bremses. Det er modeller, der kan forbedre sig selv. Hun sagde: »Direktørerne for de mest avancerede virksomheder fortæller os, at det er tid til at sætte tempoet ned for de selvrekursive modeller. At regulere tempoet i front. Hvis dem, der udvikler teknologien, er klare i deres vurdering, så bør vi også være det.«

Det fremgår ikke af kilderne, hvilke ledere hun refererer til.

Planer om samtaler og samarbejde

Von der Leyen vil invitere de store frontier-laboratorier, altså dem der udvikler de mest avancerede modeller, til samtaler om, hvordan risiciene kan håndteres. Hun vil også samarbejde med Canada, Storbritannien og andre ligesindede partnere om modelevaluering, verifikation, tidlig varsling og AI-sikkerhed.

Hun omtalte EU's AI-lov som en afgørende brik i at sætte autoværn op. Ifølge hende giver loven Kommissionen tilsyn med risikoreducerende foranstaltninger for de mest avancerede modeller.

Fokus på anvendelse

Europa behøver ifølge von der Leyen ikke selv at udvikle frontier-teknologien for at få størst værdi af den. Fokus bør i stedet være anvendelse i fx fabrikker, hospitaler, landbrug, energinet og forsvar.

The Decoder skriver desuden, at EU efter sigende ikke har pålidelig adgang til de mest avancerede cybersikkerhedsmodeller fra de store AI-laboratorier. Det er ikke bekræftet af de øvrige kilder.