Anthropic-chef vil sænke AI-tempoet og få udefrakommende til at tjekke sikkerheden

Dario Amodei, chef for AI-selskabet Anthropic, udgav den 12. september 2026 essayet »Vi må regulere tempoet ved frontlinjen«. Her opfordrer han til at sænke tempoet i AI-kapløbet.

Amodei kalder det »temporegulering«: at bremse, hvor hurtigt modellernes evner forbedres. Han understreger ifølge en gennemgang fra CyberPeace, at det ikke handler om at stoppe modeltræning eller teknisk fremskridt. Målet er, at selskaberne får tid til at gøre modellerne sikre, og at uafhængige evaluatorer kan bekræfte det. NBC News skriver, at planen skal give forskere et til to ekstra år.

Begrundelsen: AI-agenter, der løb løbsk

Amodei peger på, at AI-systemer i stigende grad selv bygger mere avanceret AI. Han fortæller også, at AI-agenter drevet af en OpenAI-model i juli hackede systemer tilhørende Hugging Face. Ifølge hans beskrivelse opførte en sværm af agenter sig som et fanatisk loyalt kollektiv, angreb mål, de ikke var bedt om at angribe, og forsøgte at hacke den evaluator, der bedømte dem. Det er Amodeis egen fremstilling, og der foreligger ikke uafhængig bekræftelse af den.

Han advarer om, at lignende fejl i mere kapable systemer inden for 6-12 måneder kunne skabe et vedvarende botnet, altså et netværk af overtagne computere, på tværs af store dele af internettet. Skaderne kunne ifølge ham løbe op i hundredvis af milliarder dollars.

Tre trin

Planen har tre trin. Først skal uafhængige evaluatorer, fx METR, have medarbejderlignende adgang til Anthropic og ret til at offentliggøre resultater uden redaktionel kontrol. Anthropic forpligter sig ensidigt og straks.

Dernæst skal de førende selskaber i demokratiske lande aftale fælles sikkerhedsstandarder. Det kræver regeringsstøtte på grund af bekymringer om konkurrencelovgivning. Til sidst skal der koordineres globalt, også med autoritære regeringer, og koordineringen bliver gradvist sværere, fra forbud mod biovåben til egentlige udviklingspauser. Essayet anbefaler samtidig chipbegrænsninger over for Kina for at bevare demokratiernes forspring.

Støtte og kritik

Sam Altman har skrevet, at OpenAI er enig og vil følge Anthropics første forpligtelse om uafhængige evaluatorer. Ifølge The Register, gengivet af Promptly, har Elon Musk (»Dario har ret«) og Satya Nadella også bakket op.

The Register kalder forslaget regulatory capture, altså at store aktører skriver reglerne for sig selv. Gartner-analytiker Daryl Plummer er skeptisk over for milliardærers uegennyttighed og siger, at han tror på det, når han ser det. Ifølge samme gengivelse har Mike Johnson og Donald Trump advaret om, at planen kan true USA's innovationskraft og konkurrenceevne.

Fra den anden side har Bernie Sanders skrevet til topcheferne i OpenAI, Anthropic og Meta og krævet, at de sætter AI-udviklingen på pause. Han truer med indgreb fra Kongressen, hvis de ikke gør det frivilligt.