Ai-chatbot brugt til missiludvikling og dronesværm

Ai-firmaet Anthropic, der står bag chatbotten Claude, har offentliggjort en rapport, som viser, at flere aktører har brugt værktøjet til at udvikle militær kapacitet. Rapporten dækker perioden fra december 2025 til august 2026 og beskriver blandt andet et tilfælde i Yemen og et i Rusland.

I Yemen brugte en mindre gruppe det, der kaldes Claude Code, en udgave af Claude, der ikke bare svarer på spørgsmål, men selv kan skrive og afprøve computerprogrammer. Gruppen brugte den, ifølge Anthropic, som en slags erstatning for menneskelige ingeniører og satte forskellige udgaver af Claude til at skrive og gennemgå kode til styresystemer i raketter og missiler.

Blandt projekterne var software til en styret raket, en planlagt ballistisk missil med en rækkevidde på over 2.000 kilometer og en version med et såkaldt hypersonisk glidefartøj, en type sprænghoved der kan bevæge sig ekstremt hurtigt og svært forudsigeligt. Gruppen nåede at teste en styret raket, men ifølge Anthropic mislykkedes affyringen. Kort efter gik gruppen tilbage til Claude for at få hjælp til at finde ud af, hvad der gik galt.

I et andet tilfælde beskriver rapporten, hvordan personer med tilknytning til Rusland brugte Claude til at udvikle software til en sværm af mindre angrebsdroner, altså flere droner der kan styres og koordineres samtidig, herunder den del af softwaren der får dronen til selv at finde og ramme sit mål. Rapporten nævner desuden kinesiske aktører, som blandt andet skal have brugt Claude i forbindelse med udvikling af elektronisk krigsførelse og systemer mod torpedoer.

Anthropic skriver, at man har lukket de konti, der stod bag, og delt oplysninger med myndigheder og andre virksomheder i branchen. Men rapporten peger også på et grundlæggende problem: De samme egenskaber, der gør en sprogmodel nyttig for almindelige brugere og virksomheder, altså at den kan forklare tekniske detaljer og hjælpe med programmering, gør den også attraktiv for aktører, der vil udvikle skadelig teknologi. Det er derfor svært at lukke helt af for misbrug uden samtidig at gøre værktøjet mindre nyttigt for alle andre.

For almindelige danskere og virksomheder er sagen en påmindelse om, at ai-værktøjer som Claude eller ChatGPT ikke kun bruges til at skrive mails eller opsummere dokumenter. De samme værktøjer kan i teorien misbruges til meget mere alvorlige formål, og det er en del af grunden til, at ai-firmaerne løbende overvåger og strammer op på, hvad deres systemer kan bruges til. Det kan i praksis også betyde, at virksomheder oplever flere begrænsninger eller ekstra kontrol, når de bruger ai-værktøjer til tekniske eller sikkerhedsrelaterede opgaver.