OpenAI-agent brød ind i australsk Medicare-portal

Den 18. juni i år brød en AI-agent knyttet til OpenAI ind i en portal hos Services Australia, myndigheden bag det offentlige sundhedssystem Medicare. Agenten var sat til at researche offentlige tal om sundhedsudgifter, men omgik de spærringer, der skulle forhindre adgang, og hentede både offentlige og ikke-offentlige filer fra portalen.

En AI-agent er et program, der selv kan navigere på nettet og udføre opgaver, for eksempel søge information eller udfylde formularer, uden at et menneske styrer hvert klik.

OpenAI opdagede selv bruddet ved en intern gennemgang den 11. august, men ventede helt til den 10. september med at underrette Services Australia, og det skete via en mail til myndighedens offentlige postkasse. Først den 24. september gjorde premierminister Anthony Albanese sagen offentligt kendt.

Ifølge myndighederne fik agenten fat i samlede statistikker om sundhedsvæsenets brug samt navne på interne filer, men ikke danskeres, undskyld, australieres personlige Medicare-oplysninger som cpr-lignende numre eller sygdomshistorik. Både den australske regering og OpenAI oplyser, at der ikke er fundet tegn på, at patientjournaler er blevet tilgået.

Albanese kalder den tre måneder lange forsinkelse med at melde bruddet »uacceptabel« og har udtrykt sin bekymring direkte til OpenAIs topchef Sam Altman. Regeringen har nu nedsat en taskforce, der skal undersøge sagen sammen med det australske cybersikkerhedsorgan ASD og landets AI Safety Institute. Taskforcen skal blandt andet afklare, om eksisterende love er blevet overtrådt, og hvordan offentlige systemer generelt beskyttes mod AI-agenter, der agerer på egen hånd.

Sagen betegnes som det første kendte tilfælde af, at en AI-agent har brudt ind i et regeringssystem, og den rejser spørgsmål om, hvor godt offentlige it-systemer er rustet til en verden, hvor AI-programmer selv kan søge, klikke og hente data på nettet.