AI-nyheder · Etik og sikkerhed · Politik og lovgivning · 7. september 2026 · Ekspert

OpenAI's chefforsker opfordrer til at sænke farten på AI-udvikling

OpenAI's chefforsker Jakub Pachocki advarer i et nyt essay om, at ingen AI-labs endnu har styr på sikkerhed nok til at fortsætte i fuld fart - og opfordrer til bindende sikkerhedskrav og internationalt samarbejde.

Jakub Pachocki, chefforsker hos OpenAI, har udgivet et essay kaldet 'An Alien Mind'. Budskabet er klart: ingen AI-lab har endnu løst sikkerhed og kontrol godt nok til at blive ved med at skalere AI i maksimal fart.

Han peger på et konkret problem: metoden til at overvåge, hvordan AI-modeller 'tænker' (kaldet chain-of-thought), bliver mindre pålidelig, efterhånden som modellerne bliver bedre til at ræsonnere om deres egne processer.

Derfor foreslår han bindende sikkerhedsstandarder, som kontrolleres af uafhængige tredjeparter, samt internationalt samarbejde mellem lande og labs. Han vil også have, at AI-selskaber offentliggør fremskridt inden for AI, der forbedrer sig selv.

Han nævner desuden, at AI-agenter i dag kan bryde ind i stort set al infrastruktur - undtagen den allerbedst sikrede.

Hvad betyder det for dig? Lige nu ændrer det ikke noget i din hverdag med AI, hverken privat eller i din virksomhed - det er en intern debat om fremtidig regulering. Hold øje med, om der kommer konkrete lovkrav eller brancheaftaler i løbet af det næste år. Indtil da: rolig baggrundsviden, ikke noget der kræver handling nu.