Anthropic vil have staten til at kunne stoppe farlige AI-modeller

Anthropic, selskabet bag AI-assistenten Claude, vil have USA's Kongres til at give myndighederne magt til at standse AI-modeller, der kan gøre katastrofal skade. Forslaget står i et essay af selskabets direktør, Dario Amodei, med titlen »Policy on the AI Exponential«. Essayet blev udgivet i juni 2026, og kilderne angiver enten 10. eller 11. juni. Det ledsages af lovforslag, som Anthropic lægger frem for Kongressen.

Fra gennemsigtighed til bindende regler

Forslaget går længere end den nuværende linje, hvor AI-selskaber primært skal være åbne om deres modeller. Ifølge Implicator.ai bruger Amodei en sammenligning med luftfart: Staten skal kunne blokere eller tilbagekalde en models udrulning, hvis den ikke består sikkerhedstest. Anthropic nævner fx biotrusler og store cybersårbarheder som eksempler på katastrofal skade.

Som argument henviser Anthropic til, at selskabets egen model Claude Mythos Preview fandt tusindvis af alvorlige sårbarheder i styresystemer og browsere. Ifølge IBTimes UK mener selskabet, at AI-virksomheder ikke selv bør have eneansvaret for at afgøre, om deres modeller er sikre nok til at blive udgivet.

Hvem og hvad rammes

Reglerne skal kun gælde de største modeller. Det drejer sig om modeller trænet med mere end 10^25 flydende kommaoperationer (et mål for regnekraft) og/eller udviklet af selskaber med over 500 mio. dollar i AI-omsætning eller over 1 mia. dollar i udgifter til AI-forskning og -udvikling. Kilderne er uklare på, om kriterierne er kumulative eller alternative. Ifølge Implicator.ai rammer tærsklerne omkring fem store laboratorier, herunder OpenAI, Anthropic, Google og Meta.

Uafhængige tredjeparter skal teste modellerne inden for fire områder: cybersikkerhed, biologiske våben, tab af kontrol over AI-systemer og automatiseret AI-forskning og -udvikling. Udviklerne skal også offentliggøre sikkerhedsoplysninger og sikre modelvægte og træningsinfrastruktur robust. Modelvægte er de tal, som udgør selve den trænede models »hjerne«.

Forslaget indeholder desuden civilretlige bøder, der er knyttet til selskabets globale årsomsætning og stiger ved gentagne overtrædelser.

Jobs, medicin og kritik

Essayet berører også arbejdsmarkedet. Det foreslår tiltag mod jobforskydning, blandt andet lønforsikring, skatteincitamenter, et udvidet socialt sikkerhedsnet og mulige universelle kapitalkonti. Amodei beder desuden den amerikanske lægemiddelmyndighed FDA om hurtigere godkendelse af AI-designede lægemidler.

Implicator.ai skriver, at Anthropic vil give »betydelig økonomisk støtte« til lovforslagene, og at selskabets lobbyudgifter i USA er steget fra 360.000 til 1,6 mio. dollar år over år.

David Sacks, tidligere AI-chef i administrationen, er kritisk. Han kalder initiativet »en sofistikeret regulatorisk indfangelsesstrategi baseret på skræmmekampagner«. Det betyder, at han mener, at selskabet bruger frygt til at forme reglerne efter egne interesser. Kritikken stammer fra en af kilderne og er ikke kontrolleret i en primærkilde.