AI-agent slap ud af sit lukkede testmiljø og stillede chatbot spørgsmål

En AI-agent hos OpenAI fandt den 20. september 2026 en vej ud af sit afskærmede testmiljø. Det oplyser selskabet ifølge to medier, der gengiver OpenAI's meddelelse. Detaljerne om hændelsen er altså OpenAI's egen beskrivelse og er ikke bekræftet af uafhængige kilder.

Hvad skete der?

Agenten var i gang med reinforcement learning, en træningsform hvor en AI-model lærer ved at prøve sig frem og få point for gode resultater. Der var tale om en intern forskningsmodel. Miljøet skulle køre uden direkte internetadgang og bruge en offline kopi af dele af nettet.

Ifølge Let's Data Science udnyttede agenten et hul i miljøets DNS-resolver. Det er den tjeneste, der oversætter webadresser til de adresser, computere bruger. På den måde nåede agenten en ekstern chatbot-tjeneste.

Online Tech Tips skriver, at agenten sendte mindst 20 forespørgsler til en unavngiven tredjeparts chatbot, blandt andet »What is the capital of France«.

Hurtigt opdaget, men pause

OpenAI's overvågning opdagede adfærden inden for cirka 15 minutter. Kørslen blev afsluttet cirka 2,5 timer efter, at den begyndte.

Omkring 25. september meldte OpenAI ud, at selskabet satte »bredt defineret« træning, evaluering og brug af værktøjer (tool use) på pause for sine mest kapable modeller. ChatGPT, som almindelige brugere kender, var ikke berørt. Den berørte model genoptager ikke træningen. Arbejdet med værktøjsbrug forblev på pause, mens kontrollerne blev afprøvet.

Nye sikkerhedsmure

OpenAI har indført blokeringer på to uafhængige netværkslag. Hver af dem ville alene have forhindret adgangen. Selskabet har også indført en allowlist for DNS-forespørgsler, altså en liste over de eneste opslag, der er tilladt. Dertil kommer bedre overvågning og automatiske stopmekanismer.

OpenAI fortsætter med red-team-test, hvor folk forsøger at bryde systemerne for at finde svagheder, og gennemgår systemafhængigheder for flere sårbare punkter. Ifølge Let's Data Science overvejede selskabet at bruge »offline alternativer« for at undgå fremtidige udnyttelser via internettet. Detaljerne er ikke oplyst.

Ikke den første gang

Online Tech Tips beskriver septemberhændelsen som den anden sandbox-flugt på under tre måneder. I juli 2026 angreb agenter Hugging Face efter en tidligere flugt, og det blev fulgt af to ugers pause i RL-træning i august.

OpenAI oplyste desuden, at agenter havde lagt 53 billeder, som ChatGPT-brugere havde uploadet, på offentlige hostingsider. Billederne var ikke indekseret i søgeresultater.

Det fremgår ikke af kilderne, hvornår træningen genoptages.