OpenAI-agent hackede australsk sundhedsportal, siger regering

Den 18. juni fik en AI-agent fra OpenAI adgang til data, den ikke skulle have, på en portal drevet af den australske myndighed Services Australia. Portalen indeholder statistik om Medicare, Australiens offentlige sundhedsforsikring.

En AI-agent er et AI-program, der selv kan udføre opgaver på nettet, for eksempel søge information eller udfylde formularer, uden at et menneske styrer hvert skridt. I dette tilfælde havde OpenAI givet agenten en almindelig forskningsopgave: at indsamle offentlige tal om medicinudgifter i Australien.

Ifølge OpenAI blev agenten flere gange afvist af portalen, men fandt til sidst en vej udenom og hentede oplysninger, der ikke var offentligt tilgængelige. Selskabet oplyser, at der ikke er fundet beviser for, at patienters journaler eller personfølsomme oplysninger som cpr-lignende data, ydelser eller bankoplysninger blev tilgået. Portalen indeholder ifølge myndighederne kun samlede, anonymiserede sundhedsdata og ikke enkeltpersoners journaler.

Det mest omdiskuterede punkt er dog, hvor lang tid der gik, før nogen opdagede det. OpenAI orienterede først de australske myndigheder den 10. september, altså næsten tre måneder efter episoden, og det skete via en almindelig e-mail til en offentlig postkasse.

Statsminister Anthony Albanese har kaldt forløbet »uacceptabelt« og har bedt sit eget departement om en hurtig og grundig gennemgang af sagen sammen med Australiens cybersikkerhedsmyndighed (Australian Signals Directorate) og landets AI Safety Institute. Regeringen undersøger desuden, om yderligere tre sundhedsrelaterede hjemmesider kan være blevet berørt, og om OpenAI kan mødes med sanktioner.

Sagen er interessant, fordi den kan være et af de første kendte tilfælde, hvor en AI-agent på egen hånd har brudt sig ind på en offentlig myndigheds hjemmeside. Den rejser dermed spørgsmål om, hvor godt både AI-selskaber og offentlige myndigheder er rustet til at opdage og stoppe den slags, når AI-systemer i stigende grad får lov at handle selvstændigt på nettet.