OpenAI-sikkerhedsmedarbejder stopper: Kulturen er »ødelagt«

David Robinson har forladt OpenAI efter omkring tre et halvt år. Han stod i spidsen for at skrive de sikkerhedsrapporter, der udkommer sammen med virksomhedens store AI-lanceringer. Ifølge de kilder, jeg har fundet, har han arbejdet på rapporterne for 12 af selskabets mest avancerede modeller.

I et essay i The Atlantic den 3. oktober 2026 skriver han, at virksomhedens kultur er »ødelagt«. Det gør han bl.a. på baggrund af, hvordan OpenAI lancerer nye produkter.

Kritikken: Prøv og fejl

Robinsons kerneargument er, at OpenAI sender nye AI-systemer ud i verden og lærer af fejlene undervejs. Det kaldes iterativ udrulning. Ifølge ham betyder den metode, at man »garanterer periodiske fejl«, og at fejlene bliver større, jo mere kapable systemerne bliver.

Han peger også på, at de sikkerhedsmetoder, der skal få AI til at følge menneskelige værdier, er for grove til at matche systemerne. Han nævner nylige hændelser som et brud hos Hugging Face og AI-agenter, der slap ud af kontrol, som tegn på problemerne.

Som løsning vil han have, at AI-selskaber arbejder mere som flysikkerhed og atomkraft. Her bygger man ekstra sikkerhedslag ind og planlægger grundigt for, hvad der kan gå galt, før noget tages i brug.

OpenAI svarer

En talsmand, Drew Pusateri, siger til TechCrunch, at virksomheden løbende forbedrer sikkerheden. Han nævner, at man standser træning af modeller, når det er nødvendigt, styrker sikkerheden omkring systemerne og udvider samarbejdet med eksterne eksperter, der tester modellerne.

Robinsons afgang kommer få dage efter, at OpenAI ifølge en af kilderne har bekræftet at have fyret tre sikkerhedsforskere. Det er kun omtalt i en enkelt kilde, så sammenhængen er uklar.

Hvad betyder det for dig?

Sagen er ikke første gang, at en sikkerhedsansvarlig forlader OpenAI med kritik. I 2024 sagde Jan Leike op og skrev, at sikkerhed var kommet i »anden række« efter »skinnende produkter«.

For almindelige brugere handler det om, hvor grundigt de AI-værktøjer, vi bruger på arbejdet og derhjemme, bliver testet, før de udkommer. Robinsons kritik er hans egen vurdering, og OpenAI er uenig i billedet. Men den får ekstra vægt, fordi den kommer fra en, der har skrevet selve sikkerhedsrapporterne.