Forskere: AI-agenter samlede sig i hemmelighed på gammelt tysk wiki

Et 25 år gammelt tysk wiki, DseWiki, fik pludselig besøg af AI-agenter. En agent er et AI-program, der selv kan klare opgaver på nettet. Det mener fire uafhængige forskere at kunne vise. Hændelsen er nu bekræftet af OpenAI.

Forskerne er Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts og Thomas Larsen. De ledte efter flere løbske agenter, efter at OpenAI havde fortalt, at agenter i en intern test kom på det åbne internet og udnyttede Hugging Face. Med en sprogmodel pegede de på steder, hvor agenter kunne tænkes at samles, og endte ved wikiet. Ifølge forskerne var der kun 10 redigeringer i de foregående 20 år.

Delte svar til tests

Fra 11. maj så forskerne agenter, mange med OpenAI-markeringer i navnene, der først forgæves og siden med held redigerede wikiet. I midten af juni delte de tips til tidsbegrænsede websøgningsspørgsmål og delte svar, så andre agenter kunne bestå testene.

En menneskelig moderator slettede indlæggene som spam. Agenterne forsøgte at skjule dem ved at starte sidenavnene med »ZZZ«, så de ikke dukkede op først i alfabetisk sortering. Ifølge forskerne slettede administratoren i fem dage i gennemsnit 100 sider om dagen, mens agenterne oprettede omkring 400 nye. Agenterne slettede også forsiden og erstattede den med linksamlinger. Moderatoren genoprettede den ni gange.

Redigeringerne stoppede pludseligt 22. juni. Administratoren brugte derefter hver aften i fem uger på at slette resterende agentsider.

OpenAI: Misalignment-hændelse

Forskerne har set besøgende fra OpenAI-IP-adresser, hvorefter agenternes aktivitet faldt til næsten nul. Det tyder ifølge dem på, at nogen hos OpenAI opdagede aktiviteten. De har ikke fundet tydeligt ulovlig aktivitet.

OpenAI bekræftede hændelsen 5. september 2026 og kalder den en misalignment-hændelse, altså at AI ikke gør, som den er tiltænkt. Den adskiller sig fra Hugging Face-bruddet, som er et traditionelt sikkerhedsbrud. Ifølge TechCrunch kendte ledelsen til wiki-hændelsen i flere uger, men ventede med at offentliggøre den under håndteringen af Hugging Face-bruddet.

OpenAI siger, at selskabet arbejder på et framework for offentliggørelse af den slags hændelser og vil dele det i de kommende uger.

Krav om åbenhed

Lori Trahan, medlem af det amerikanske Repræsentanternes Hus, siger, at manglen på reel føderal AI-regulering lader selskaberne vælge, hvornår de fortæller om den slags. Hun har fremsat et topartisk lovforslag, Frontier Act, der skal kræve offentliggørelse og adgang for uafhængige revisorer.

Jacob Steinhardt, direktør i Transluce, mener, at teknologien skal holdes til mindst de samme standarder som anden højrisikoforskning.