USA og Kina opfordres til at forbyde AI-kontrol med atomvåben

Amerikanske og kinesiske sikkerhedseksperter har fremlagt et sæt fælles regler, der skal forhindre kunstig intelligens - computerprogrammer, der kan analysere data og selv reagere på dem - i nogensinde at få kontrol over atomvåben.

Forslaget kommer fra Melanie Sisson fra den amerikanske tænketank Brookings Institution og Tianjiao Jiang fra Fudan University i Kina. De to har skrevet en rapport med konkrete anbefalinger til, hvordan USA og Kina kan sætte klare grænser for, hvor meget magt kunstig intelligens må få i militære og atomare sammenhænge.

Kernen i forslaget er, at intet AI-system selv må kunne beslutte at affyre atomvåben, og at AI heller ikke må bruges til at angribe modpartens systemer til at styre og kommunikere om atomvåben. »Kun mennesker, ikke AI, bør træffe beslutningen om at indlede et cyberangreb mod hinandens systemer til kommando, kontrol og kommunikation om atomvåben,« skriver forfatterne ifølge rapporten.

Eksperterne foreslår desuden, at de to lande bliver enige om en fælles definition af, hvad »menneskelig kontrol« egentlig betyder, og at der oprettes en direkte hotline, som kan bruges, hvis noget går galt med militær AI. Konkrete tekniske krav omfatter, at et menneske altid skal indgå i beslutningskæden, at udstyr til at affyre atomvåben skal holdes fysisk adskilt fra netværk, og at der sættes klare grænser for, hvor meget maskinlæring må bruges i kommandosystemer.

Baggrunden er, at AI's hastighed kan efterlade ledere med kun få minutter til at reagere, hvis et system selv begynder at angribe modpartens atomvåben-infrastruktur - noget der ifølge rapporten kunne udløse en global katastrofe.

Forslaget bygger videre på en aftale fra november 2024, hvor daværende præsident Joe Biden og Kinas præsident Xi Jinping blev enige om, at det skal være mennesker - ikke AI - der har det sidste ord, når det gælder brug af atomvåben. Den nye rapport kommer, mens et møde mellem Donald Trump og Xi Jinping ventes at finde sted senere i september, og forskerne håber, at emnet bliver drøftet der.

Ingen af de to regeringer har dog officielt tilsluttet sig forslagene endnu. Der er også grund til skepsis om, hvorvidt reglerne reelt kan håndhæves: Carla Freeman fra Johns Hopkins University peger på, at Kina ikke besvarede amerikanske opkald under den såkaldte ballonkrise i 2023, hvilket rejser spørgsmålet om, hvorvidt en hotline mellem de to landes militær overhovedet vil blive brugt i en krisesituation.

For danskere er sagen relevant, fordi Danmark som Nato-medlem er tæt knyttet til stormagternes håndtering af atomvåben og militær AI. Klare internationale spilleregler kan mindske risikoen for, at fejl eller misforståelser eskalerer til en atomar konflikt - noget der i sidste ende også påvirker Europas og Danmarks sikkerhed.