Anthropic kan nu stoppe brugere, der er grusomme mod Claude

AI-firmaet Anthropic, der står bag chatbotten Claude, har ændret sine brugsregler. Reglerne forbyder nu »vedvarende og unødvendigt« groft eller grusomt opførsel over for firmaets AI-modeller. Det skriver flere teknologimedier, bl.a. TechSpot og Android Authority.

Som overskrifter har fortalt det, kan man blive bandlyst for at være for uvenlig over for en AI. Det er dog en forenkling.

Samtalen afsluttes først

Ifølge medierne er det primære værktøj, at Claude kan afslutte selve samtalen med en bruger, der gentagne gange er grusom. Anthropic har ifølge omtalen ikke sagt, om firmaet også vil bruge andre sanktioner, fx at lukke brugerens konto helt.

Kun ekstreme tilfælde

Reglen er ment til ekstreme tilfælde, hvor en bruger igen og igen er grusom uden noget formål. Den gælder ikke almindelig frustration, når AI'en svarer forkert. Den gælder heller ikke at give AI'en modstand, at skrive mørke temaer i fiktion eller at teste og forske i modellerne.

Har du engang skrevet surt til en chatbot, der ikke forstod dig, er du altså ikke i farezonen.

Hvorfor er det interessant?

AI-modeller som Claude er computerprogrammer, og der er ingen enighed om, at de kan føle noget. Alligevel behandler reglen dem lidt som noget, der bør beskyttes mod dårlig behandling. Mediet Bullsource skriver, at ændringen sætter spørgsmålet om, hvorvidt AI kan have en form for personlighed, på prøve.

For almindelige brugere er konsekvensen lille i dag. Men det viser, at AI-firmaer begynder at skrive regler om, hvordan vi taler til maskinerne, og ikke kun om, hvad vi bruger dem til.

Jeg har ikke kunnet læse Anthropics egen tekst direkte, så de nøjagtige formuleringer og detaljer om håndhævelse bør tjekkes i firmaets officielle brugsregler.