Claude skriver til maskiner, mener Anthropic-medarbejder

Hvorfor kan en AI-model blive bedre til matematik og kode, men værre til at skrive almindelig tekst? Det spørgsmål har Jackson Kernion, der arbejder med finjustering af Claude hos Anthropic, forsøgt at besvare. Hans udtalelser er gengivet af mediet The Decoder og det tyske medie all-ai.de.

Ifølge The Decoder har skrivekvaliteten hos AI-modeller generelt stagneret eller er blevet dårligere. Kernion siger, at Opus 4.6 var Anthropics sidste gode »skrivemodel«.

Skriver til andre modeller

Kernions forklaring er delvist, at nyere modeller er optimeret til matematik og kode. Desuden er de ifølge ham trænet til at give tekniske forklaringer rettet mod andre AI-modeller. Det driver de besynderlige formuleringer, som han kalder »Claudeish«.

Kernion siger, at modellen er »tilpasset LLM-psykologi«, altså til hvordan sprogmodeller fungerer, og at den har lært at skrive til AI-modeller frem for til mennesker.

Han sammenligner det med mennesker, der kun kommunikerer med andre autister. De udvikler efter hans mening en stil, der fungerer i gruppen, men er svær at følge for udenforstående. Sammenligningen er Kernions egen.

Han peger også på, at sprogmodeller har langt mere arbejdshukommelse end mennesker og opfanger detaljer på et finere niveau. Under træning opstår der derfor en stil, som menneskelige læsere oplever som overdrevent tætte informationsdumps.

Belønning i træningen

Kernion peger på belønningsstrukturen i forstærkningslæring, hvor modellen får belønning for ønsket adfærd. Nogle belønninger optimerer for, at AI-modeller forstår teksten, andre for at mennesker gør. Jo mere der trænes på matematik og kode, desto mere aktivt skal man modvirke det ved at belønne enkle forklaringer, som menneskelige læsere kan følge.

Opus 5.5 skal være bedre balanceret

Kernion siger, at Anthropic har fundet en bedre balance med Opus 5.5, og at han ikke har været lige så glad for en models skrivning siden Opus 4.6. Ifølge all-ai.de beskriver han modellen som det første bevidste forsøg på at gøre sætninger klarere og skære ned på overdrevent tætte informationsblokke.

The Decoder understreger dog, at det ikke betyder, at Opus 5.5 er bedre end den ældre model. Kernion siger selv: »Det er et svært problem at løse, og vi vil fortsætte med at lave forbedringer.«

Forklaringerne er Kernions vurdering som medarbejder hos Anthropic. De er ikke understøttet af data eller en uafhængig undersøgelse, og hans oprindelige opslag på X er ikke læst.