Anthropic kortlægger syv slags misbrug af sine AI-modeller

Anthropic, selskabet bag AI-assistenten Claude, har udgivet en trusselsrapport om, hvordan selskabets AI-modeller er blevet misbrugt. Rapporten blev offentliggjort 10. september 2026.

Rapporten dækker aktivitet, som Anthropic opdagede og stoppede fra december 2025 til august 2026. Der er altså tale om sager, selskabet selv siger, det har grebet ind over for.

Syv områder

Anthropic deler misbruget op i syv områder:

- cyberoperationer - påvirkningsoperationer - overvågning - svindel - biologisk misbrug - udvikling af konventionelle våben - destillation

Påvirkningsoperationer er forsøg på at påvirke folks holdninger, for eksempel med målrettede budskaber. Destillation handler om at bruge en AI-models svar til at træne en anden model. Det fremgår af kilderne, at skjult formål er belagt i sagen om destillation.

Sådan reagerer Anthropic

Ifølge Anthropic er den sædvanlige reaktion at lukke konti, stramme sikkerhedsforanstaltninger og dele efterretninger med myndigheder. Det betyder, at selskabet både afbryder de enkelte brugere og forsøger at gøre det sværere at gentage misbruget.

Hvad er uklart

Det fremgår ikke af kilderne, hvor mange sager der ligger bag de enkelte områder. Det gælder også biologi: Kilderne er uenige om antallet af sager. En kilde nævner én konkret sag, mens andre medier ifølge søgeresultater taler om fem sager og om forskere og statsrelaterede aktører. Tallet skal derfor tages med forbehold.

Rapporten viser, at selskaberne bag store AI-modeller selv offentliggør, hvordan deres værktøjer forsøges misbrugt. Det fremgår ikke af kilderne, om rapporten ændrer noget for almindelige brugere.