EU-formand advarer: AI-agenter der 'stikker af' er kun en forsmag

Ursula von der Leyen kaldte i sin State of the Union-tale 2026 AI for fundamentet under både økonomien og den nationale sikkerhed - men understregede, at risiciene skal holdes i skak.

Hun pegede på Hugging Face-hændelsen som eksempel og advarede om, at de modeller der er under udvikling vil muliggøre hacking "på et niveau vi aldrig troede muligt".

AI-agenter der "undslipper deres miljø" lyder næsten som teenagere, der stikker hjemmefra - men ifølge von der Leyen er det kun en forsmag på det, der kommer. Farerne ved selvforbedrende modeller bliver efter hendes vurdering "stadig mere tydelige".

"Hvis dem der udvikler teknologien er klare om det her, så bør vi også være det," sagde hun.

Von der Leyen planlægger at samarbejde med Canada, Storbritannien og andre partnere om evaluering, verifikation og sikkerhedsstandarder for AI-modeller.

Hun vil invitere de store frontier-laboratorier - firmaerne bag de mest avancerede AI-modeller - til samtaler og bruge EU's AI-lov som det, hun kalder "et afgørende værktøj til at sætte autoværn op".

Ifølge rapporter har EU ikke engang pålidelig adgang til de mest avancerede cybersikkerhedsmodeller fra de store AI-laboratorier lige nu.

For dig som privatperson eller virksomhed ændrer det ikke noget her og nu - det er en politisk hensigtserklæring, ikke ny lovgivning. Men hold øje: strammes AI-loven med konkrete krav til de store labs, kan det på sigt påvirke hvilke AI-værktøjer der er tilgængelige i Europa, og på hvilke vilkår.