Falsk AI-rapport fik USA til at gøre klar til at gå om bord på skib

Det amerikanske militær var i foråret 2026 tæt på at gå om bord på et kinesisk skib på grundlag af en falsk efterretningsrapport. Det skriver TechCrunch og The Decoder, som begge gengiver en afsløring fra CNN. CNN bragte historien først den 18. september 2026, og den bygger på anonyme kilder.

Ifølge de to medier var militærfly i luften, og væbnede soldater stod klar, før fejlen blev opdaget. Operationen blev afbrudt i sidste øjeblik, da embedsfolk gik op for, at oplysningerne var en såkaldt AI-hallucination. Det vil sige, at en AI finder på noget, der lyder rigtigt, men ikke passer.

Sådan opstod fejlen

Rapporten pegede på, at skibet fragtede komponenter til et atomvåbenprogram. Det var forkert.

Fejlen opstod hos en analytiker i Special Operations Command. Analytikeren brugte en AI-chatbot til at kombinere offentligt tilgængelige oplysninger med hemmelig signalefterretning om skibets lastmanifest, altså listen over, hvad skibet har med. Chatbotten fejlidentificerede lasten.

Analytikeren brugte derefter værktøjet endnu en gang til at formatere de forkerte fund som en officiel sammenfatning, før den gik videre i systemet.

Ingen fælles regler for kontrol

Ifølge The Decoders gengivelse af CNN findes der ingen ensartede standarder for at kontrollere AI-genereret militær efterretning. Samtidig driver forsvarsminister Pete Hegseth en strategi for at fremskynde brugen af AI i militæret.

En anonym kilde siger ifølge The Decoder, at yngre analytikere har en tendens til at stole på AI-værktøjer uden tilstrækkelig skepsis. Samme kilde siger: »AI allows you to get to a bad idea faster«.

Jake Steckler, forsker ved GovAI, siger til TechCrunch, at det er vigtigt, at militærfolk forstår den usikkerhed, der ligger i store sprogmodeller, især når beslutninger kan føre til magtanvendelse. Store sprogmodeller er den type AI, som chatbots som ChatGPT bygger på.

Hvad vides ikke

Det fremgår ikke af kilderne, om en officiel kommentar fra Pentagon eller militæret findes. Det fremgår heller ikke, om chatbotten var et kommercielt produkt eller et internt statsligt værktøj. Begge medier bygger på CNN, så oplysningerne kommer reelt fra én kæde af anonyme kilder.

For almindelige brugere er pointen enkel: AI kan lyde sikker, selv når den tager fejl, og svarene skal tjekkes, før de bruges som grundlag for vigtige beslutninger.