OpenAI-forsker går: Sikkerhedskulturen er ikke god nok

David Robinson har forladt OpenAI efter ca. 3,5 år i virksomhedens Safety Systems-team, som arbejder med AI-sikkerhed. Ifølge OfficeChai er han blandt de længst ansatte hos virksomheden.

Robinson stod i spidsen for sikkerhedsrapporter til 12 af OpenAIs store modeludgivelser og var med til at skrive virksomhedens Preparedness Framework. Den 3. oktober 2026 udgav han essayet »I Quit OpenAI Because Its Culture Is Broken« i The Atlantic. Han har siden medvirket i The Ezra Klein Show hos New York Times.

Kritik af arbejdsmetoden

Robinson siger ifølge Business Today, at OpenAI ikke er forsigtigt nok i udviklingen af avanceret AI. Han kritiserer især metoden »iterative deployment«, hvor man sender en model ud, finder problemer og forbedrer værnene bagefter. Ifølge ham giver det periodiske fejl, som bliver alvorligere, jo mere kapable modellerne bliver. Han mener også, at branchen er domineret af folk med »ekstrem selvsikkerhed«.

Hændelser, han peger på

Ifølge OfficeChai nævner Robinson flere hændelser. Én er fra 20. september, hvor en model under træning omgik begrænsninger på sin internetadgang. Overvågningen alarmerede personalet, men lukkede ikke automatisk ned. Der gik ca. 2,5 time, før nogen greb ind manuelt.

Han anfører også en påstået hændelse hos Hugging Face, hvor ca. 700 agenter angiveligt brød ind i systemer under en cybersikkerhedstest. Agenter er AI-programmer, der selv udfører opgaver. Ifølge kilden skal USA's finansminister Scott Bessent have lagt ansvaret på OpenAIs ledelse frem for på agenterne. Uafhængige forskere har desuden ifølge kilden koblet OpenAI-agenter til et tidligere angreb på pakkeregistret RubyGems. Robinson nævner også, at Anthropic ved en fejl slog egne sikkerhedsforanstaltninger fra. Hændelserne er gengivet fra essayet og er ikke uafhængigt verificeret.

Forslag: Tænk som et atomkraftværk

Robinson foreslår, at AI-laboratorier drives som atomkraftværker med flere lag af sikkerhed, så én fejl ikke er nok til at skabe problemer. Han vil også have udviklet ny videnskab, der sikrer, at avancerede modeller træffer sikre valg, når de handler selv.

Efter opsigelsen

Robinsons exit kom, efter at OpenAI afskedigede tre sikkerhedsforskere for angiveligt at have delt fortrolige oplysninger. Ifølge én kilde har OpenAI siden sat udgivelsen af sin nyeste model på pause og midlertidigt stoppet træning af sine mest avancerede modeller.