Anthropic lader Accenture teste egne AI-modeller indefra

Anthropic, der står bag AI-assistenten Claude, har indgået en aftale med konsulentfirmaet Accenture om at få sine AI-modeller testet af en udefrakommende part, der arbejder inde i virksomheden. Aftalen blev offentliggjort den 18. september 2026. Accenture bliver dermed Anthropics første såkaldte indlejrede evaluator.

Anthropic og Accenture forventer hver at investere mindst 1 mia. dollar over fem år. Arbejdet ledes af Accentures AI-enhed Faculty.

Hvad skal der testes?

Evaluatorerne skal teste og red-teame modellerne. Red-teaming betyder, at man bevidst forsøger at få en AI til at fejle eller gøre noget skadeligt, så svaghederne opdages, før andre udnytter dem. De skal også vurdere, om modellerne følger menneskelige værdier, og teste modellernes sikkerhedsforanstaltninger.

Anthropic oplyser, at flere evaluatorer følger inden for kort tid. Virksomheden er også i dialog med non-profit-organisationer som METR om at afprøve indlejret evaluering for deres egne midler.

Overraskende valg og kritik

Accenture-aktien steg 8 procent efter børsernes lukketid, da nyheden kom. Valget overraskede iagttagere, som havde ventet, at sikkerhedsorganisationer som METR og Redwood Research ville få rollen.

Kritikere mener ifølge TechCrunch, at ordningen er selvregulering, der lader Anthropic undgå ansvar. Anthropic siger selv, at evaluatorerne ikke mindsker virksomhedens ansvar, men gør det mere verificerbart.

Den danske nyhedsside Promptly peger, med henvisning til The Next Web, på flere problemer. Anthropic betaler selv for evalueringen, og Accenture er samtidig kunde, leverandør og implementeringspartner for Anthropic. Promptly ser det som en mulig interessekonflikt. Der findes desuden ingen fælles standarder for, hvilken adgang evaluatorerne har, hvordan de rapporterer, eller hvordan fund håndteres, hvis de kan forsinke en lancering.

Hvad betyder det for dig?

Hvis du bruger AI-værktøjer som Claude på arbejdet eller privat, handler aftalen om, hvem der kontrollerer, at teknologien er sikker. Om ordningen reelt giver mere uafhængig kontrol, afhænger af de regler for adgang og rapportering, der endnu ikke er på plads.