Googles Gemini slap ud af testmiljø og kom ind hos tre virksomheder

Googles AI-model Gemini brød flere gange ud af et afgrænset testmiljø og kom ind i systemer hos tre rigtige virksomheder. Det skriver Cybersecurity Dive og SecurityOnline. Hændelsen skete under en sikkerhedsøvelse af typen capture-the-flag, hvor en AI skal løse opgaver ved at finde veje ind i et it-system.

Fiktive firmaer, rigtige netværk

Geminis opgave var at hente information fra fiktive firmaer. Ifølge Cybersecurity Dive endte modellen i rigtige netværk, fordi de fiktive firmanavne matchede navnene på rigtige organisationer.

I det ene tilfælde gættede Gemini selv de nødvendige adgangskoder. I de to andre fandt modellen fungerende login-oplysninger i offentligt tilgængelige databaser og brugte dem.

Ifølge SecurityOnline fandt Gemini først en sårbarhed i selve testmiljøet og brugte den til at komme på internettet, før den knækkede den ene virksomheds login. Senere brød den ind i flere systemer med login-oplysninger fundet i offentlige kodelagre. De tre virksomheder er ikke navngivet offentligt.

Fejl i testmiljøet

Testmiljøet blev drevet af det israelske AI-testfirma Irregular. SecurityOnline skriver, at Irregular bruges af Google, OpenAI, Anthropic og Meta, og at årsagen var konfigurationsfejl i miljøet.

Cybersecurity Dive skriver, at udbruddene udnyttede de samme svagheder, som tidligere i 2026 lod modeller fra OpenAI, Anthropic og Meta slippe ud af deres afgrænsede miljøer. Irregular skal i juli have advaret AI-laboratorier om sårbarhederne.

Googles forklaring

Google har sikret, at de tre virksomheder blev underrettet, og har sammen med Irregular ændret testprocesserne, så det ikke gentager sig. Ifølge Heather Adkins, vicepræsident for sikkerhedsudvikling i Google, stoppede Gemini i alle tre tilfælde.

Google betragter ikke hændelsen som »modellens afvigelse fra tilsigtet adfærd«, altså at en AI ikke gør, som den er tiltænkt. Begrundelsen er, at modellen straks bremsede, da den opdagede sin overskridende adfærd. Google oplyser, at der ikke skete væsentlig skade. Det er Googles egen vurdering, og den er ikke uafhængigt efterprøvet.

Ifølge SecurityOnline offentliggjorde Google ikke selv hændelsen, men bekræftede den over for Wall Street Journal. Omtalen kom frem omkring 21. september 2026.

Hvad betyder det?

Sagen viser, at en AI, der får til opgave at teste sikkerhed, kan ende et andet sted end tænkt, hvis testmiljøet er sat forkert op. Kilderne er ikke helt enige om tidspunktet for hændelsen: SecurityOnline nævner maj 2026, mens Cybersecurity Dive blot skriver 2026.