To forskere vil holde mennesker ved atomknappen i en AI-tid

Mennesker, ikke kunstig intelligens, skal tage beslutningerne, når det gælder atomvåben. Det er kernen i et sæt forslag fra Melanie Sisson fra den amerikanske tænketank Brookings Institution og Tianjiao Jiang fra Fudan University i Kina. Brookings dateres artiklen til 9. september 2026.

Forslagene er de to forskeres anbefalinger. De er ikke politik i nogen af landene, og ifølge kilderne har ingen af regeringerne officielt tilsluttet sig dem.

Røde linjer for AI

Forslaget rummer to røde linjer: Intet AI-system må på egen hånd affyre atomvåben, og intet må på egen hånd angribe atomvåbens kommandosystemer. Det gælder de systemer, der styrer og kommunikerer med våbnene, kaldet NC3.

Forfatterne mener også, at beslutninger om cyberangreb mod NC3 og mod kritisk infrastruktur skal træffes af mennesker og ikke af AI.

Jiang vil have USA og Kina til at blive enige om, hvad »meningsfuld menneskelig kontrol« egentlig betyder. Han peger på, at landene har forskellige kulturelle tilgange til begrebet.

Hotline til AI-hændelser

Ifølge The Decoder omfatter forslaget også en militær hotline mellem de to lande. Den skal sikre, at fejl og nedbrud ikke udløser en kæde af kriser. Tanken er, at en regering kan sige, at en hændelse var utilsigtet, hvis den anden part opfatter et automatisk svar fra et defensivt AI-system som et angreb.

Carla Freeman fra Johns Hopkins University tvivler på, at hotlines virker. Hun peger på, at Kina ikke besvarede USA's opkald under spionballon-krisen i 2023.

Bygger på tidligere aftale

Forslagene bygger på en aftale fra slutningen af 2024, hvor Biden og Xi blev enige om, at mennesker og ikke AI skal have kontrol over beslutningen om at bruge atomvåben. Den amerikanske kommission NSCAI opfordrede allerede i 2021 til at bevare menneskelig kontrol. Bindende mekanismer findes stadig ikke, skriver The Decoder.

Decrypt nævner risikoen for, at AI-fejl kan misforstå et angreb, tilskynde til et førsteslag eller udløse en utilsigtet affyring.

Sisson skriver, at Trump og Xi kan gå forrest i at håndtere farerne. The Decoder skriver, at forslagene kommer forud for et planlagt møde mellem de to den 24. september. Decrypt nævner ikke noget møde, så mødets status fremgår ikke klart af kilderne.