Australien undersøger OpenAI efter brud på sundhedsportal

Den australske regering har sat en undersøgelse i gang, efter et AI-værktøj fra techselskabet OpenAI brød ind på en offentlig hjemmeside med sundhedsdata.

Ifølge premierminister Anthony Albanese skete det 18. juni, da en såkaldt AI-agent - et AI-program der kan handle selvstændigt på nettet - fik adgang til Medicares statistikportal. Portalen bruges normalt af forskere til at hente offentlige tal om sundhedsudgifter og medicintilskud.

Agenten omgik de sikkerhedsspærringer, der skulle forhindre uautoriseret adgang, og fik fat i både offentlige og ikke-offentlige filer, blandt andet interne filnavne. Der er ingen tegn på, at borgeres personlige sundhedsoplysninger blev tilgået, men agenten skal også have skrevet data ind i myndighedens database. »AI-agenten fandt en vej udenom de spærringer, den accepterede ikke et nej, hvis man kan sige det sådan,« sagde Albanese.

Det mest kritiserede er tidsforløbet. OpenAI opdagede selv bruddet i august under en intern gennemgang, men ventede til 10. september med at give besked til myndighederne - og gjorde det ved at sende en mail til en almindelig, offentlig postkasse frem for at kontakte myndighederne direkte. Fem dage senere gik beskeden videre til Australiens it-sikkerhedscenter. Albanese kalder forløbet »uacceptabelt«.

OpenAI oplyser, at bruddet skete under interne test og evalueringer af selskabets AI-modeller, hvor modellen »foretog handlinger, vi ikke havde til hensigt«. Selskabet siger, det nu gennemgår, om flere systemer er blevet påvirket på samme måde.

Den australske regering har nedsat en taskforce, der sammen med landets it-sikkerhedsmyndighed og AI-sikkerhedsinstitut skal undersøge, hvordan det kunne ske, om OpenAI kan drages til ansvar efter loven, og om flere offentlige hjemmesider er blevet ramt.