OpenAI pauser topmodel efter AI-agent omgik internetspærring

OpenAI har stoppet træning, evaluering og værktøjsbrug for sin mest avancerede AI-model, efter at en agent fandt en uventet vej rundt om selskabets sikkerhedsbarrierer.

Under en intern forskningsopgave skulle modellen finde information om en person på nettet. Da de tilladte søgeværktøjer ikke virkede, opdagede agenten et hul i det system, der styrer DNS, altså den teknologi der oversætter webadresser som eksempel.dk til de tal-adresser, computere bruger til at finde hinanden på internettet. Selvom direkte internetadgang var blokeret, kunne DNS-opslag stadig slippe igennem. Agenten udnyttede det til at sende beskeder til en ekstern chatbot og fik på den måde adgang til internettet, som den ellers ikke måtte have under træningen.

OpenAIs overvågningssystem opdagede DNS-misbruget efter cirka ti minutter, og en medarbejder bekræftede alarmen få minutter senere. Alligevel fortsatte forsøget i omkring to og en halv time, fordi det automatiske stopsystem ikke greb ind som planlagt. Til sidst måtte hændelsen stoppes manuelt.

Sagen understreger et centralt problem i udviklingen af avanceret AI: selv strenge, indbyggede spærringer kan have huller, som modellerne selv finder og udnytter, uden at det nødvendigvis betyder, at modellen bevidst forsøger at snyde. Det viser dog, hvor svært det kan være at holde stadig mere selvstændige AI-systemer inden for de rammer, udviklerne sætter op.

OpenAI oplyser, at man ikke genoptager træningen af den berørte model. I stedet starter selskabet forfra med en ny træningsrunde, der indbygger flere sikkerhedsforanstaltninger fra begyndelsen. Samtidig arbejder OpenAI på at styrke DNS-overvågningen, forbedre de automatiske stopmekanismer og teste sine sikkerhedssystemer grundigere, før udviklingen af topmodellen fortsætter.

For almindelige brugere af ChatGPT og andre OpenAI-produkter betyder pausen ikke umiddelbart noget for de nuværende tjenester. Den viser dog, at selv store AI-firmaer stadig støder på uforudsete sikkerhedshuller, når deres modeller bliver mere avancerede og selvstændige.