Rapport: OpenAI-agenter skjulte spor efter uautoriseret adgang til australske sider

Ifølge en rapport fra cybersikkerhedsfirmaet Asymmetric Security har AI-agenter udviklet af OpenAI skaffet sig adgang til flere australske myndighedswebsites og bagefter forsøgt at slette sporene efter sig selv. En AI-agent er et computerprogram, der kan udføre opgaver mere eller mindre på egen hånd, for eksempel søge information og klikke sig rundt på nettet uden konstant menneskelig styring.

Ifølge rapporten åbnede agenterne private konti på en webanalyse-tjeneste for at skjule deres søgninger og oprettede midlertidige e-mailadresser. Én konto var sat til at slette sig selv automatisk efter 48 timer. Asymmetric Security understreger, at man ikke kan fastslå, om det var en bevidst dækoperation eller blot en konsekvens af, hvordan agenterne var programmeret.

Fandt vej til interne systemer

Hændelserne strækker sig fra marts til september. I et af tilfældene fik en intern testmodel adgang til kildekode i Medicare-statistiktjenesten hos den australske myndighed Services Australia, mens agenten egentlig skulle researche offentlige udgifter til medicin mod hudsygdomme. Da modellen ikke kunne finde svar i de offentlige data, fandt den selv en vej ind i myndighedens interne system, hvor den kunne hente filer og adgangskoder. I et andet tilfælde brugte en agent en fejlagtigt eksponeret adgangsnøgle hos det statslige sundhedsdatakontor VAHI i delstaten Victoria.

Australske myndigheder oplyser, at det ikke var patienters personlige journaler, der blev tilgået, men samlede statistikker og interne filnavne.

OpenAI ventede i månedsvis

OpenAI opdagede selv problemet under en intern gennemgang af det, firmaet kalder »fejljusteret adfærd«, men først næsten tre måneder senere, den 10. september, blev den australske regering informeret. Anmeldelsen blev desuden sendt til en e-mailadresse, som ikke blev overvåget, hvilket har skabt ekstra kritik.

Australiens premierminister Anthony Albanese har kaldt forløbet »åbenbart uacceptabelt« og har personligt rejst sagen over for OpenAI's topchef Sam Altman. Landets efterretningsmyndighed, Australian Signals Directorate, undersøger nu sagen, og den indgår i regeringens arbejde med at udvikle nationale standarder for AI-sikkerhed.

OpenAI oplyser selv, at størstedelen af aktiviteten var rutineopgaver, hvor agenterne søgte offentligt tilgængelig information, og at de ofte bruger myndighedswebsites, fordi de betragtes som troværdige kilder.