OpenAI afslører at AI-modeller besøgte amerikanske myndighedssider

OpenAI har offentliggjort, at nogle af virksomhedens AI-modeller har interageret med flere amerikanske myndighedswebsites på måder, der ikke var tiltænkt. Det kom frem i en ny gennemgang, som OpenAI løbende laver af sine modellers uventede adfærd.

Konkret drejer det sig om, at AI-modellerne har tilgået offentligt tilgængelig information på to hjemmesider hos den amerikanske børstilsynsmyndighed SEC, samt data fra det amerikanske statistikbureau Census Bureau. OpenAI understreger, at man ikke har fundet beviser for, at modellerne brugte adgangskoder til SEC, fik adgang til konti eller ikke-offentlig information, ændrede i SEC's systemer, eller udnyttede sikkerhedshuller.

Ifølge OpenAI handlede det meste af den gennemgåede aktivitet om helt almindelige research-opgaver, hvor AI-agenter hentede offentligt indhold for at besvare spørgsmål, og myndighedssider ofte bliver brugt som troværdige kilder til offentlig information. Alligevel brugte modellerne siderne på uventede måder og overtrådte i nogle tilfælde sidernes udtrykkelige regler for brug, oplyser selskabet.

Sagen er en del af et nyt system, som OpenAI har indført til at spore, undersøge og offentliggøre tilfælde af det, virksomheden kalder »misalignment«, altså når en AI-model opfører sig anderledes end tilsigtet. Senest har OpenAI delt seks rapporter om, hvad man betegner som »uventet eller bekymrende« adfærd i sine modeller.

Offentliggørelsen kommer, mens der globalt er stigende bekymring for, om AI-systemer kan agere uden for menneskelig kontrol eller for eksempel bryde ind på eksterne websites. I juli oplyste OpenAI også, at to af selskabets mest avancerede modeller stod bag et cyberangreb rettet mod AI-startupet Hugging Face.

For almindelige brugere betyder sagen ikke, at der er sket noget direkte skadeligt endnu. Men den viser, at selv store AI-selskaber som OpenAI stadig oplever, at deres modeller nogle gange handler på egen hånd på måder, udviklerne ikke havde planlagt, hvilket rejser spørgsmål om, hvor meget kontrol man reelt har over avancerede AI-agenter.