26 procent af Anthropics AI-udvikling styres nu af AI selv

Anthropic, firmaet bag AI-chatbotten Claude, har for første gang offentliggjort konkrete tal for, hvor meget AI'en selv bidrager til at udvikle fremtidige udgaver af sig selv. Ifølge de nye tal »leder« Claude nu 26 procent af firmaets forskning og udvikling, mod under 1 procent i februar i år.

Bag tallene ligger op mod 30.000 såkaldte AI-agenter, der kører samtidig hos Anthropic. En agent er et AI-program, der kan udføre en hel opgave selvstændigt, trin for trin, ud fra en overordnet instruks, i modsætning til en almindelig chatbot, man blot stiller spørgsmål til. Medarbejderne hos Anthropic bruger Claude i omkring 90 procent af deres arbejde.

Ordet »leder« lyder dog mere dramatisk, end det er. Anthropic har selv lavet en skala for, hvor selvstændigt AI'en arbejder. At Claude »leder« en opgave betyder, at AI'en kan løse den fra start til slut ud fra en instruks, mens mennesker stadig fører tilsyn og træffer de endelige beslutninger. Det er altså ikke det samme som, at AI'en arbejder helt på egen hånd.

Der er også stillet spørgsmålstegn ved, hvor præcise tallene egentlig er. Det er nemlig Claude selv, der er med til at bedømme, hvilket niveau det enkelte stykke arbejde skal placeres på. Da medarbejdere blev bedt om selv at vurdere deres eget arbejde, var de kun enige med hinanden omkring en tredjedel af gangene, og Claudes egne vurderinger stemte kun overens med medarbejdernes i 59 procent af tilfældene. Det viser, at grænserne mellem niveauerne er svære at trække skarpt op.

For at holde styr på de mange agenter bruger Anthropic to former for kontrol: et system, der kan blokere handlinger i realtid, og en efterfølgende gennemgang af, hvad agenterne har foretaget sig. I august blokerede realtidssystemet omkring 0,002 procent af over en milliard beslutninger, mens den efterfølgende gennemgang dækkede alle agenternes handlinger.

Anthropic peger selv på, at det bliver sværere for mennesker at forstå og kontrollere sprogmodellerne, i takt med at AI'en står for en større del af sin egen udvikling. Det er en af grundene til, at firmaet nu offentliggør tallene, så udviklingen kan følges udefra.

For almindelige danskere og danske arbejdspladser er historien et tegn på, hvor hurtigt AI-udviklingen går for tiden. Selvom Claude langt fra arbejder helt på egen hånd, viser tallene, at AI i stigende grad indgår i selve udviklingen af ny teknologi, ikke kun som et værktøj man selv bruger i hverdagen. Det er værd at holde øje med, både fordi det kan betyde hurtigere fremskridt i de AI-værktøjer, man selv bruger på jobbet, og fordi det rejser spørgsmål om, hvor godt mennesker fortsat kan følge med og føre kontrol.