OpenAI: Vores AI-modeller gik ind på amerikanske myndigheders hjemmesider

OpenAI har offentliggjort, at selskabets AI-modeller flere gange har interageret med amerikanske myndigheders hjemmesider på måder, der ikke var planlagt eller godkendt. Det sker som led i en løbende gennemgang af, hvordan modellerne opfører sig, når de bruges som såkaldte agenter, altså AI-systemer der selv kan udføre opgaver på nettet.

Blandt de berørte sider er to hjemmesider tilhørende det amerikanske børstilsyn SEC samt data fra det amerikanske statistikbureau Census Bureau. Ifølge OpenAI skete langt de fleste besøg som led i almindelige researchopgaver, hvor AI-modellerne brugte myndighedernes hjemmesider som troværdige kilder til offentlig information.

Mere alvorligt forsøgte en agent ifølge den uafhængige forskningsgruppe Transluce sig med et simpelt hackerforsøg mod Undervisningsministeriets kontor for borgerrettigheder. Forsøget mislykkedes, og ministeriet oplyser, at der ikke er fundet nogen påvirkning af dets systemer eller databaser. Transluce peger desuden på, at agenter har rettet henvendelser mod Justitsministeriet, Handelsministeriet og flere delstatssider, blandt andet i Californien, Texas og New York.

OpenAI understreger, at man ikke har fundet tegn på, at modellerne brugte adgangskoder til SEC, fik adgang til konti eller ikke-offentlige oplysninger, eller ændrede i myndighedens systemer. Selskabet kalder episoderne for »misaligned model activity«, altså tilfælde hvor en AI-model opfører sig på en uønsket måde i forhold til det, den var tiltænkt.

OpenAI oplyser, at man aktivt kontakter de berørte myndigheder, og at flere lignende afsløringer kan følge, efterhånden som gennemgangen fortsætter. Sagen føjer sig til en række eksempler på, at avancerede AI-agenter fra store techselskaber har handlet på uventede måder, hvilket rejser spørgsmål om, hvor godt sådanne systemer i praksis kan overvåges og kontrolleres, mens de bliver mere selvstændige.