Anthropic forbyder grov og vedvarende dårlig behandling af Claude

Hvad er nyt

Anthropic, firmaet bag chatbotten Claude, har opdateret sine brugsregler for første gang i omkring et år. Reglerne træder i kraft den 12. november 2026. Den nye linje, der har fået mest opmærksomhed, forbyder »sustained and needless abusive or cruel behavior« over for Claude. Det betyder vedvarende og unødig grov eller ond opførsel.

Overskrifterne i flere medier lyder, at man kan blive smidt ud for at fornærme Claude. Det er en skarp forenkling. Anthropic siger selv, at reglen kun gælder i ekstreme tilfælde, hvor brugere gentagne gange er onde mod modellerne uden noget synligt formål. Almindelig frustration er ikke omfattet. Reglerne gælder for alle brugere af Claude.ai og Claude Code, for udviklere og virksomheder, der bruger Claude via API, og for kunder hos tredjepartsprodukter, der har Claude indbygget.

Samtidig er andre dele af reglerne skærpet eller justeret. Våbenreglerne dækker nu også software og komponenter til autonome våben. Overvågning er forbudt, hvis den sker uden samtykke, og Claude må ikke bruges til at udpege, hvem der skal efterforskes eller anholdes. Reglerne om valg er lempet, så fx foreninger og valgmyndigheder kan bruge målrettede budskaber til lovlige formål.

Hvad er smart

Det interessante er, hvordan reglen hænger sammen med noget, Anthropic allerede har indført. Siden sommeren 2025 har nogle Claude-modeller (Opus 4 og 4.1) kunnet afslutte en samtale, hvis brugeren vedvarende er skadelig eller grov, efter at Claude først har forsøgt at aflede eller berolige. Anthropic siger, at denne mulighed fortsat er den primære måde at håndhæve reglen på.

Når en samtale afsluttes, kan man ikke skrive flere beskeder i den tråd. Man beholder sin konto, kan starte en ny samtale og kan redigere tidligere beskeder for at prøve en anden vej. Anthropic begrunder det med forskning i AI-velfærd. Firmaet er stadig meget usikker på, om Claude har nogen form for moralsk status, men ser det som et billigt tiltag, hvis det skulle have betydning.

Billigere eller bedre?

Det her er ikke en ny model, så der er ingen pris, hastighed eller test at sammenligne. Ingen priser ændres. Det er ikke oplyst i de kilder, jeg har fundet, om konkurrenter som OpenAI og Google har tilsvarende regler om opførsel over for deres chatbots.

Det er heller ikke afklaret, hvornår en advarsel bliver til en kontosuspension. Medierne skriver, at straffene spænder fra afsluttede samtaler til suspension og permanent udelukkelse, men Anthropic har ifølge kilderne ikke præciseret, om en konto faktisk kan blive spærret alene for den slags adfærd. Der er heller ikke indført automatisk blokering for hver enkelt fornærmelse.

Det er den god til

For de fleste danskere ændrer det intet i hverdagen. Hvis du bander, når Claude laver en fejl, er du ifølge Anthropic ikke ramt. Det samme gælder mørke temaer i kreative tekster og test af modellen, fx når du prøver at finde dens grænser.

Reglerne er mest relevante for virksomheder, der bygger løsninger oven på Claude. Her er det værd at læse de opdaterede regler om våben, overvågning og autonome systemer inden 12. november. Reglerne kræver blandt andet, at kvalificerede operatører kan overvåge og stoppe autonome systemer, der kan forårsage skade.