Anthropic viser lovgivere udkast til regler for farlige AI-modeller

Anthropic, virksomheden bag AI-assistenten Claude, har ifølge Politico præsenteret et udkast til en AI-sikkerhedslov for amerikanske lovgivere. Politico bragte historien omkring 16. oktober 2026. Kilderne er ikke helt enige om datoen, og nogle nævner 17. oktober.

Udkastet bygger på ideer fra Anthropics Advanced AI Framework, som virksomheden udgav i juni 2026. Ifølge en juridisk kommentar har Anthropic bekræftet, at udkastet afspejler rammeværket.

Udkastet er ikke offentliggjort i fuld tekst og er endnu ikke formelt fremsat i Kongressen. Ifølge den juridiske kommentar er det fremlagt privat for medarbejdere på Capitol Hill. Det fremgår ikke, hvilke lovgivere der har fået forslaget, eller hvor omfattende Anthropics henvendelser har været.

Hvornår kan en model stoppes?

Ifølge rapporteringen ville regeringen kunne blokere udgivelsen af en AI-model, hvis den udgør en nært forestående risiko for at dræbe eller skade mere end 50 mennesker eller forårsage skader for over 1 mia. dollar.

Ifølge den juridiske kommentar skal risikoen stamme fra en af tre typer trusler: skabelse af biologiske våben, at mennesker mister kontrollen over AI'en, eller cyberangreb.

Eksterne kontrollører og domstol

Ifølge den juridiske kommentar skal uafhængige evaluatorer, der er registreret hos handelsministeriet (Commerce), løbende gennemgå AI-udviklerne og deres kraftigste modeller. Virksomhederne må betale evaluatorerne, hvis betalingen ikke afhænger af resultaterne. Finder evaluatorerne en trussel, skal de ifølge kommentaren indberette den til handelsministeriet inden for 72 timer.

Ifølge kommentaren samles beføjelsen til at suspendere modeller hos handelsministeriet, og andre føderale myndigheder kan ikke handle selvstændigt. En suspension skal ifølge kommentaren godkendes af en dommer ved den føderale distriktsdomstol i Washington D.C.

Kommentaren nævner også, at udkastet skulle indeholde regler om føderal forrang, som kan tilsidesætte visse delstaters AI-sikkerhedslove. Det er dog uklart og ikke bekræftet andre steder.

Ifølge kommentaren retter forslaget sig mod frontier-modeller, altså de mest avancerede AI-modeller, og ikke mod AI generelt eller almindelige chatbots til forbrugere.

Hvad betyder det?

Det er et udkast, ikke en vedtaget lov. Ifølge bloggen Venture Magazine kan det alligevel flytte grænsen for, hvad Kongressen realistisk kan vedtage, fordi lovgivere får færdigt lovsprog om definitioner, håndhævelse og sikre havne.