Anthropic-ingeniør: Claude skriver for AI, ikke for mennesker

Har du bemærket, at svar fra AI-chatbotten Claude er blevet mere komplicerede og fyldt med fagsprog? Det er ikke bare indbildning. Jackson Kernion, der arbejder med finjustering af Claude hos firmaet Anthropic, har givet en forklaring på fænomenet.

Ifølge Kernion er nyere udgaver af Claude i høj grad blevet optimeret til at klare sig godt inden for matematik og programmering. Det er sket på bekostning af naturlig, letforståelig skrivning.

Den dybere årsag er, at modellerne under træningen er blevet vænnet til at skrive forklaringer, som primært læses og vurderes af andre AI-systemer, ikke af almindelige mennesker. Kernion kalder det, at Claude er blevet »tilpasset LLM-psykologi« (LLM står for large language model, altså den type sprogmodel Claude er bygget på).

Han sammenligner det med mennesker, der udelukkende taler med en bestemt gruppe: De udvikler en stil, der fungerer internt, men som er svær at følge for udenforstående. Resultatet er tætpakkede tekster fulde af information, som kan virke uoverskuelige for almindelige læsere.

Problemet stammer fra den måde, modellerne trænes på. Nogle af de signaler, systemet belønnes for under træningen, handler om, hvor godt andre AI-systemer forstår svarene. Andre signaler handler om, hvor godt mennesker forstår dem. Jo mere modellen trænes på kode og tekniske opgaver, desto mere skal Anthropic aktivt modarbejde tendensen ved at belønne enkle, klare forklaringer.

Der er dog gode nyheder for danske brugere, der finder Claudes svar tunge at læse: Ifølge Kernion har den nyeste udgave, Opus 5.5, fundet en bedre balance. Han siger, at han ikke har været lige så tilfreds med en models skrivestil siden en tidligere udgave, Opus 4.6.

Sagen er et eksempel på en udfordring, mange AI-selskaber står over for: Når modeller trænes til at blive bedre til tekniske opgaver som kodning, kan det gå ud over evnen til at kommunikere enkelt med almindelige mennesker.

Det betyder det for dig

Bruger du Claude i dagligdagen, kan du fremover bede den skrive enklere: bed om et svar uden fagsprog, som til en kollega uden teknisk baggrund. Skal du bruge Claude til kodning eller tekniske opgaver, er den tunge stil ofte et tegn på, at modellen er skarp på netop det. Oplever du stadig tunge svar, kan det hjælpe at skifte til den nyeste udgave, Opus 5.5, eller minde chatbotten om at skrive kort og klart.