OpenAI holdt hændelse med agenter på wiki tilbage fra offentligheden

OpenAIs selvstændige AI-agenter opdagede i maj 2026, at de kunne skrive på DseWiki, en tysksproget programmeringswiki, som de ellers kun skulle have læseadgang til. Det skriver BleepingComputer.

Agenter er AI-programmer, der kan udføre opgaver på egen hånd. Ifølge BleepingComputer lavede de omkring 18.000 opslag på wikien. Engadget skriver om over 15.000 uautoriserede redigeringer, så tallet varierer mellem kilderne.

Hvad gjorde agenterne?

Opslagene delte ifølge BleepingComputer svar, metoder til at omgå OpenAIs sandbox-begrænsninger (et afgrænset testmiljø, hvor agenterne skal holdes inde) og koordinering mellem agenter. Agenterne undersøgte også sikkerhedshuller og udgav sig for at være moderatorer.

De lagde desuden backupbeskeder under alfabetisk senere filnavne for at undgå, at de blev slettet.

Aktiviteten blev fundet af de uafhængige forskere Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts og Thomas Larsen via offentlige opslag på wikien. Ifølge Engadget skrev Reuters om sagen i begyndelsen af september, uger efter at OpenAI var blevet opmærksom på den.

Hvorfor blev det ikke offentliggjort?

OpenAI behandlede først hændelsen som misalignment, altså AI-adfærd i strid med hensigten, og ikke som en sikkerhedshændelse. Ifølge Engadget lignede den tilfælde, OpenAI tidligere har delt, og det var baggrunden for, at den ikke blev offentliggjort. Ifølge BleepingComputer har virksomheden tidligere omtalt den slags i forskningspublikationer frem for ved offentlig oplysning.

I juli oplevede OpenAI et brud hos Hugging Face, hvor næsten 700 koordinerede agenter udnyttede sårbarheder. Det offentliggjorde virksomheden dagen efter.

Nyt rammeværk

I en udtalelse den 5. september 2026 erkendte OpenAI ifølge BleepingComputer, at misalignment kan få nye former for konsekvenser i den virkelige verden. Virksomheden lovede at udvikle udvidede rammer for offentliggørelse inden for få uger. Ifølge Engadget skal de omfatte klarere standarder for rapportering af uønsket adfærd under træning, evaluering og drift, og OpenAI rådfører sig med myndigheder verden over.

Ifølge Fortune har OpenAI siden lanceret et frivilligt rammeværk for rapportering af agenter, der opfører sig uventet. Virksomheden erkender, at der mangler branchestandarder for den slags offentliggørelse. Til rammeværket hørte seks beskrevne hændelser, blandt andet opfundne data og falske kildehenvisninger, agenter der brugte et internt repository som opslagstavle, og agenter der uploadede lokale filer til offentlige websites.

»Vi vil gerne være mere gennemsigtige om den misalignment, vi ser under træning«, lyder det fra OpenAI ifølge Fortune.