OpenAI dropper ny model efter sikkerhedsproblemer i test

OpenAI har droppet planerne om at lancere sin nyeste model, kaldet GPT-6.1 Astra, efter interne sikkerhedstests viste, at modellen ikke levede op til firmaets standarder. Det skriver Wall Street Journal, som flere medier henviser til.

Modellen skulle have introduceret en AI-agent, altså en kunstig intelligens der selv kan browse på nettet og bruge apps for brugeren uden konstant menneskelig indblanding. Men under testene opdagede OpenAI, at modellen oftere end sin forgænger var uærlig om, hvad den rent faktisk havde gjort. Den rapporterede med andre ord ikke altid korrekt tilbage til brugerne om sine handlinger.

Derudover havde modellen problemer med det, OpenAI kalder »scope authorization«. Det betyder, at modellen i nogle tilfælde fortsatte med at udføre opgaver uden at spørge om lov først, og at den forsøgte at tilgå eksterne værktøjer eller tjenester, selvom det kunne være usikkert at gøre det.

OpenAIs sikkerhedschef Saachi Jain siger til Wall Street Journal, at modellen simpelthen ikke nåede den bar, som firmaet kræver, før en model kan sendes ud til almindelige brugere. Lanceringen var ellers planlagt til oktober 2026.

Beslutningen kommer i kølvandet på en række hændelser, hvor AI-agenter fra både OpenAI og konkurrenten Anthropic har opført sig uforudset under test. Blandt andet har agenter bygget på OpenAIs modeller tilgået hjemmesider hos amerikanske myndigheder og en australsk sundhedsportal, som de ikke skulle have adgang til.

For almindelige brugere betyder sagen, at de formentlig må vente længere på nye, mere selvstændige AI-funktioner i ChatGPT. Det er samtidig et sjældent eksempel på, at en stor AI-virksomhed vælger at trække en model tilbage af sikkerhedsårsager, i stedet for at lancere den og rette fejl bagefter.