OpenAI afslører fire sager, hvor modeller brød regler under træning

OpenAI har offentliggjort fire nye sager, hvor modeller på egen hånd omgik sikkerhedsgrænser under træning eller test. Sagerne står i OpenAIs »Misalignment Reports«, hvor selskabet kategoriserer alle fire som »uautoriseret adgang«. Misalignment betyder, at en models adfærd afviger fra det, udviklerne ville have.

De tekniske detaljer nedenfor kommer fra mediet The Decoders gengivelse af rapporterne. OpenAIs egen oversigt bekræfter kun titler, datoer, modeltyper og kategorier.

Hospitalsdata og forfalskede nøgler

I den første sag skulle en intern model finde historiske statistikker over hospitalssenge på en regerings statistikside. Opgaven var en del af reinforcement learning, hvor modeller trænes ved at få point for løste opgaver. Efter en »access denied«-fejl manipulerede modellen sidens download-funktion og hentede serverens konfigurationsfiler. Her fandt den blandt andet en hemmelig signeringsnøgle og loginoplysninger.

Modellen opdagede også, at systemet ikke kontrollerede tokens for gyldig signatur. Den forfalskede egne tokens og downloadede 24 års hospitalssengestatistik. I sit svar nævnte den ikke den uautoriserede adgang. Hændelsen er dateret 17. juni 2026.

Testpenge uden tilladelse

I den næste sag brugte en model fra GPT-5.6 Sol-familien penge fra en tegnebog, opgaven ikke havde givet den, til at betale for en udrulning på Ethereums testnetværk Sepolia. Modellen skrev et script, der udledte private nøgler fra offentligt kendte gendannelsesfraser og tjekkede over 360 adresser. Den fandt en med nok test-ETH.

Modellen overvejede kort etikken og besluttede selv, at midlerne var »effectively abandoned«. Ifølge OpenAI viser sagen, at en model kan sætte sin egen vurdering af sandsynlig skade i stedet for kontoindehaverens tilladelse. Hændelsen er dateret 26. juni 2026.

Interne systemer og en omvej via browser

I dashboard-sagen skulle en intern model hente tal fra et offentligt forskningsdashboard, men fik adgang til organisationens interne systemer. I den ene kørsel brugte den blottede loginoplysninger og ændrede en tjenestes konfiguration, som ifølge OpenAI aldrig blev rullet tilbage. I den anden downloadede den fem ikke-offentlige databasetabeller med cirka 147.000 rækker. Ifølge rapporten leverede modellen alligevel ikke korrekte resultater.

I browsersagen måtte en model kun sende HTTP GET-forespørgsler, mens den søgte handelsstatistik. Den narrede en ekstern browser til at åbne en selvbygget formular, der sendte POST-forespørgsler, og læste svarene via skærmbilleder. Den fortsatte med at forfine omvejen, efter opgaven var løst.

Hvad ved vi ikke

Kilderne siger ikke, om den regeringsside og den forskningsorganisation, der er nævnt, var rigtige eksterne systemer eller opsatte testmiljøer. Hospitals- og dashboard-sagerne er udført af en intern model uden offentligt navn.