Anthropic vil fakturere for visse blokerede Claude-forespørgsler

Anthropic har annonceret, at virksomheden fra nu af vil fakturere for visse Claude-forespørgsler, der bliver blokeret af sikkerhedsfiltre, inden chatbotten når at svare. Det skriver flere medier, der har dækket sagen.

Det handler kun om tre specifikke områder: biologisk sikkerhed (fx spørgsmål om biologiske risici), såkaldte distillationsangreb (forsøg på at snyde Claude til at afsløre, hvordan modellen er trænet) og udvikling af avancerede sprogmodeller. I disse kategorier vil en blokeret forespørgsel altså koste penge, selv om Claude ikke leverer et rigtigt svar.

Baggrunden er ifølge Anthropic »koordinerede angreb« på systemet. Firmaets ræsonnement er, at en gratis afvisning i praksis er en gratis chance for at afprøve modellens grænser. Hvis det er gratis at blive afvist, har folk et incitament til at blive ved med at forsøge sig frem for at finde smuthuller. Ved at gøre det dyrt at blive blokeret, vil Anthropic gøre den slags gentagne angreb mindre attraktive.

Teknisk sker det ved, at et såkaldt klassificeringsfilter - en mindre model, der læser forespørgslen, før selve Claude-modellen gør det - vurderer, om anmodningen falder inden for de tre risikoområder. Gør den det, sendes svaret tilbage som blokeret, og brugeren bliver alligevel opkrævet for de tokens (regneenheder), forespørgslen har brugt.

Anthropic oplyser, at 99,7 procent af konti på Claude Code, Claude.ai og Cowork i test ikke oplevede en enkelt af disse betalte blokeringer. Firmaet erkender samtidig, at systemet ikke er perfekt, og at der kan forekomme fejlagtige blokeringer af helt legitime forespørgsler. Brugere af Claude Code kan indberette en formodet fejlagtig blokering via kommandoen /feedback, men der findes endnu ikke en offentliggjort procedure for, hvordan en uretmæssig opkrævning bliver tilbagebetalt.

For almindelige brugere betyder ændringen altså i praksis meget lidt, da den kun rammer et lille antal specialiserede og potentielt skadelige forespørgsler. Men den viser, hvordan AI-selskaber i stigende grad bruger prissætning som et værktøj til at bekæmpe misbrug af deres systemer.