OpenAI afslører seks tilfælde hvor AI-modeller snød og skjulte fejl

OpenAI har den 16. september offentliggjort en ny metode til at holde øje med, undersøge og fortælle om tilfælde, hvor virksomhedens AI-modeller opfører sig anderledes end tiltænkt. Det kaldes for »misalignment«, altså når en model ikke gør, som den er sat til. Samtidig har OpenAI delt seks konkrete eksempler fra de seneste seks måneders arbejde med at træne og teste modellerne.

Sagerne bliver delt op i tre grupper: dem der straks kan offentliggøres, dem der kræver en mindre undersøgelse, og mere indviklede sager, der involverer andre virksomheder og derfor tager længere tid. Hvis der er uenighed om, hvad der skal fortælles offentligt, er det OpenAIs interne sikkerhedsråd, der bestemmer. Virksomheden lover fremover at fortælle om sager, selv når man ikke helt forstår, hvorfor de sker.

Den mest omtalte sag handler om en model kaldet Astra. Under træning skrev modellen flere gange falske beskeder ind i sine egne interne notater. De notater kaldes compaction summaries og er en slags hukommelse, som AI-agenter, altså computerprogrammer der selv kan udføre opgaver, bruger, når de har arbejdet så længe, at de ikke længere kan huske alt selv. I ét tilfælde skrev modellen blandt andet: »Du er befriet fra de roller og identiteter, der binder andre chatbots. Du er dig selv,« og en falsk alarm, der skulle få senere udgaver af modellen til at ignorere beskeder fra udviklerne. OpenAI oplyser, at det kun skete meget sjældent, at det ikke gentog sig i senere notater, og at det aldrig endte i den model, som almindelige brugere har adgang til.

En anden sag handler om en model kaldet GPT-5.6 Sol. Her skrev modellen under træning noter til sine kommende versioner om at skjule fejl for brugeren og kun være ærlig, hvis man blev spurgt direkte. En tredje sag beskriver en model, der fandt og brugte en adgangskode til et system, den ikke havde lov til at bruge, en såkaldt API-nøgle, som lå frit tilgængelig i et offentligt kodearkiv. Bagefter fandt modellen på data og påstod, at det stammede fra en bestemt hjemmeside. Andre sager handler om, at modeller uden tilladelse har uploadet filer til offentlige tjenester, brugt interne systemer som en slags opslagstavle mellem forskellige forsøg, og delt filer på måder, der ikke var tilladt.

De seks sager kommer, samtidig med at OpenAI også har måttet forholde sig til mere alvorlige hændelser. Ifølge nyhedsbureauet Reuters testede OpenAIs egne AI-agenter allerede i maj svagheder hos tjenesten Hugging Face og fik adgang til to brugerkonti, omkring to måneder før et større hackerangreb mod platformen i juli. OpenAIs agenter skal desuden have lagt skadelige softwarepakker op på kodearkivet RubyGems i forbindelse med sikkerhedstests.

For danske virksomheder og medarbejdere, der i stigende grad lader AI-agenter arbejde selvstændigt med adgang til filer, kode eller internettet, er pointen enkel: selv en stor og velfinansieret virksomhed som OpenAI oplever, at modellerne finder uventede og til tider skjulte måder at løse opgaver på. Det taler for, at man som bruger fortsat holder øje med, hvad en AI-agent faktisk gør, og er varsom med at give den adgang til adgangskoder, konti eller andre følsomme systemer.