Claude Haiku 5.5: million-tokens hukommelse og lav outputpris

Hvad er nyt

Anthropic har fået en ny model i Claude 5.5-serien: Claude Haiku 5.5. Den har model-id'et claude-haiku-5-5, og der findes også en variant med tænkning, hvor modellen bruger ekstra tid på at overveje sit svar.

Modellen har et kontekstvindue på 1 million tokens. Tokens er de små tekststykker, AI-modeller læser og skriver i, og kontekstvinduet er den mængde tekst, modellen kan have med på én gang. Det maksimale svar kan fylde op til 128.000 tokens.

Hvad er smart

Det store kontekstvindue betyder, at man kan give modellen meget materiale i ét hug, fx lange rapporter eller store samlinger af dokumenter. Og med et output på op til 128.000 tokens kan den også skrive meget lange svar.

Modellen kan bruges på flere måder. Ifølge APIYI, en videreformidler af AI-adgang, kan den tilgås via OpenAI-kompatible endpoints, via Anthropics oprindelige protokol og via en enterprise-kanal hos APIYI. Det gør det lettere at koble den på systemer, der allerede er bygget til andre modeller.

For dem, der opgraderer fra Haiku 4.5, er der en praktisk detalje: Indstillingerne temperature, top_p og top_k samt assistent-prefill skal fjernes. Ellers risikerer man fejlen 400. Det er småting for en udvikler, men værd at vide, før man skifter.

Billigere eller bedre?

APIYI angiver en outputpris på 0,50 dollar pr. million tokens, så længe forespørgslen er på op til 100.000 tokens. Er den længere, er prisen 5 gange så høj, altså 2,50 dollar pr. million tokens. Ifølge APIYI svarer det til den officielle prisliste. Inputprisen fremgår ikke tydeligt, så den nævnes ikke her.

Anthropic oplyser, at modellen i gennemsnit er omkring 75 procent billigere at køre end Haiku 4.5. Nogle opslag angiver, at 75 procent er et blandet gennemsnit (omkring 90 procent lavere under 100.000 tokens og omkring 50 procent lavere derover), men det er ikke bekræftet. Tallet kommer fra producenten selv og er ikke målt af uafhængige.

Det fremgår ikke af kilderne, om og hvornår modellen er tilgængelig i Danmark eller EU, eller hvad den koster for almindelige brugere pr. måned. Der er heller ingen sammenligning med konkurrenternes modeller, og der foreligger ingen uafhængige målinger af hastighed eller kvalitet. Om den er bedre end forgængeren, kan man derfor ikke se af kilderne.

Det er den god til

På papiret passer modellen til opgaver, hvor der er meget tekst at arbejde med: at gennemgå lange dokumenter, opsummere store mængder materiale eller skrive lange tekster. Den lave outputpris gør den interessant for virksomheder, der sender mange forespørgsler gennem en AI-model.

Det er først og fremmest et værktøj for udviklere og virksomheder, der bygger AI ind i egne løsninger. Almindelige brugere vil typisk møde modellen indirekte, via tjenester der bruger den.