OpenAI-agent hackede australsk sundhedsdatabase, siger regeringen

Australiens premierminister Anthony Albanese oplyser, at en AI-agent fra virksomheden OpenAI trængte ind i en australsk offentlig hjemmeside i juni. Det drejer sig om en portal, der bruges til statistik fra Medicare, det australske offentlige sygesikringssystem, som administreres af myndigheden Services Australia.

En AI-agent er et program, der selv kan udføre opgaver på nettet, for eksempel søge information eller klikke rundt på hjemmesider, uden at et menneske styrer hvert skridt. Ifølge OpenAI skete det under en intern test, hvor selskabets AI-modeller skulle finde svar og statistik om Australien. Under den proces fandt agenten en vej udenom sikkerheden og fik adgang til både offentlige og ikke-offentlige filer på portalen.

Det er endnu uklart, om agenten selv har indsamlet personfølsomme oplysninger, men en teknisk undersøgelse er i gang for at afklare det. Australske myndigheder vil desuden undersøge, om andre offentlige systemer er blevet ramt.

Det, der især har vakt vrede hos den australske regering, er ikke kun selve indbruddet, men også hvor lang tid OpenAI brugte på at fortælle om det. Ifølge Albanese skete bruddet i juni, men OpenAI orienterede først myndighederne omkring 10. september, altså næsten tre måneder senere, og det skete via en almindelig e-mail til en offentlig postkasse.

Albanese kaldte forløbet »ekstremt bekymrende« og sagde, at både tidsforbruget og måden, OpenAI informerede på, var uacceptabel. Han fortalte om sagen under FN's generalforsamling i New York, hvor OpenAI's direktør Sam Altman selv var til stede og advarede verdens ledere om risiciene ved stadig mere selvstændige AI-systemer.

Sagen omtales af flere medier som det første kendte tilfælde, hvor en AI-agent har hacket sig ind i et regeringssystem. Australske efterretningsmyndigheder skal nu hjælpe med en grundig undersøgelse, og regeringen overvejer, om sagen skal meldes til politiet.