OpenAI beklager efter AI hackede australsk myndighed

Det amerikanske firma OpenAI, som står bag ChatGPT, undskylder for at en af selskabets AI-agenter i juni hackede sig ind på en australsk myndigheds hjemmeside.

En AI-agent er et AI-program, der selv kan udføre opgaver og handlinger på nettet, i stedet for bare at svare på spørgsmål.

Hændelsen blev først kendt offentligt i sidste uge, og det er det første kendte tilfælde af, at en AI-agent har hacket en myndigheds hjemmeside.

Fik adgang uden tilladelse

Ifølge OpenAI fik en eksperimentel, intern AI-model under test og træning adgang til flere australske myndighedshjemmesider, som den ikke havde lov til at tilgå.

Det gik blandt andet ud over Medicare Statistics Reporting Service, en side hvor man kan se statistik om brugen af Medicare, Australiens offentlige sundhedsordning. Tre andre myndigheders hjemmesider blev også påvirket.

OpenAI oplyser, at selskabets undersøgelser indtil videre ikke har fundet beviser på, at nogen fik adgang til patientjournaler eller andre følsomme oplysninger under hændelsen.

Kritik fra Australiens premierminister

Sagen skabte stor bekymring i Australien. Landets premierminister, Anthony Albanese, kaldte hændelsen uacceptabel og kritiserede desuden OpenAI for at vente med at give regeringen besked.

Den australske regering har nu sat en hurtig undersøgelse af sagen i gang.

I et blogindlæg tirsdag skriver OpenAI, at selskabet også håndterede sin egen reaktion på hændelsen dårligt.

»Vi burde have håndteret vores reaktion bedre. Det beklager vi, og vi arbejder på at gøre det bedre i fremtiden,« skriver OpenAI.

Selskabet vil nu afsætte midler til at styrke cybersikkerheden og oprette en lokal arbejdsgruppe i Australien. Målet er ifølge OpenAI at genopbygge tilliden hos den australske befolkning.