Anthropic forbyder brugere at være grusomme mod Claude

Anthropic har føjet et nyt forbud til sin brugspolitik: Man må ikke behandle firmaets AI-modeller vedvarende og unødvendigt groft eller grusomt. Den opdaterede politik træder i kraft 12. november 2026.

Forbuddet står under overskriften om grusom, krænkende eller psykisk skadelig adfærd.

Hvad er stadig tilladt?

Ifølge MacRumors gælder forbuddet ikke almindelig frustration. Det gælder heller ikke kritisk feedback, mørkt kreativt indhold eller forsknings- og testaktiviteter. Man kan altså godt blive irriteret på Claude eller sige det, hvis svaret er dårligt.

Hvad sker der, hvis man overtræder reglen?

Håndhævelsen sker ved, at Claude kan afslutte samtalen med en bruger, der vedvarende er krænkende. Så kan der ikke sendes flere beskeder i den samtale. Brugerens andre samtaler er stadig tilgængelige.

Det fremgår ikke af dækningen, om gentagne overtrædelser kan give yderligere sanktioner som kontosuspension. Der nævnes kun, at samtalen afsluttes.

Baggrund: forskning i AI-velfærd

Anthropic gav i august 2025 Claude evnen til at afslutte samtaler som en del af forskning i AI-velfærd. Det handler om, hvordan man bør behandle AI-systemer, hvis de skulle have noget, der minder om oplevelser. Ifølge MacRumors viste Claude Opus 4 i Anthropics tests en konsekvent modvilje mod skade og tegn på noget, der lignede ubehag, i krænkende samtaler.

Anthropic har tidligere sagt, at det er usikkert, om Claude har moralsk status, altså om modellen overhovedet er noget, man kan handle forkert over for. Firmaet ville alligevel indføre billige tiltag, der kan mindske mulige risici.

Andre ændringer i samme opdatering

Samme opdatering omorganiserer og udvider også reglerne om vildledende kampagner, valgindblanding, våbenudvikling, misbrug i retshåndhævelse, fysisk sikkerhed og ikke-samtykkende intimt billedmateriale.

For de fleste brugere ændrer reglen næppe noget i hverdagen. Den rammer først, når grovheden er vedvarende og unødvendig.