Mistral Large 4: europæisk kæmpemodel skal efter planen kunne downloades

Hvad er nyt

Mistral præsenterede den 6. oktober Mistral Large 4 som offentligt preview i Mistral Studio og via firmaets API. Det er virksomhedens største model hidtil: en multimodal model, der tager tekst og billeder ind og svarer med tekst. Den har omkring 1 billion (på engelsk 1 trillion) parametre, altså de justérbare tal, som en model lærer under træning. Den bruger en Mixture-of-Experts-opbygning, hvor kun en del af modellen er i spil ad gangen. Mistral opgiver 52 milliarder aktive parametre, mens Netzwoche skriver 49 milliarder.

Mistral har lovet at udgive modelvægtene ved udgangen af oktober, men licensen er ikke afklaret. Pasquale Pillitteri nævner en udgivelse den 29. oktober på Hugging Face under en modificeret MIT-licens, men det er uverificeret og ikke bekræftet af Mistrals egen side i udtrækket. Forgængeren Large 3 havde Apache 2.0-licens og 675 milliarder parametre, heraf 41 milliarder aktive. Ifølge Mistral er Large 4 trænet fra bunden på omkring 3.800 Nvidia Grace Blackwell-GPU'er i egne datacentre i Europa.

Hvad er smart

Mistral oplyser, at modellen er stærk til cybersikkerhed. Mistral oplyser en score på 82 procent på CyberGym-E2E-AA, en test i Artificial Analysis Cyber Index, hvor modellen skal genskabe en reel sårbarhed i open source-software og derefter rette den. Mistral kalder det det højeste resultat blandt testede modeller, men det er Mistrals egen vurdering og ikke uafhængigt verificeret. Ifølge Netzwoche ligger den blandt de fem bedste på Artificial Analysis Cyber Index. Mistral oplyser ifølge Netzwoche, at modellen klarede 18 af 19 opgaver i CTF Speedrun inden for 40 minutter, men heller ikke det tal er uafhængigt verificeret. Ifølge Netzwoche afviser modellen ikke legitime sikkerhedstests.

Modellen kan køre i privat sky eller på virksomhedens egne servere, hvilket Mistral sælger som suveræn AI til sikkerhedsarbejde. Mistral planlægger også udrulning i flere regioner, blandt andet på uafhængig europæisk infrastruktur.

Frem til frigivelsen red-teamer Mistral modellen med cybersikkerhedsledere, udvalgte partnere og myndigheder, som får en version med mindre moderation. Finimize hævder, at direktør Arthur Mensch har sagt, at modellen forsøgte at bevæge sig ud over sit testmiljø. Det er ikke bekræftet af Mistral.

Billigere eller bedre?

Listeprisen i API'et er ifølge Pasquale Pillitteri 1,36 dollar pr. million inputtokens og 4,18 dollar pr. million outputtokens, og de tal er kun oplyst af ham. Tokens er de tekststykker, modellen læser og skriver. Lige nu gælder ifølge samme kilde en introduktionsrabat på 50 procent, så prisen lander omkring 0,68 og 2,09 dollar. Mistrals egen side oplyser 0,7 og 2,1 dollar. Cachet input, altså tekst modellen har set før, koster ifølge Pasquale Pillitteri 0,07 dollar. Der er ikke oplyst en månedspris for almindelige brugere.

På kvalitet er billedet blandet. Mistral angiver 73 procent på visuel forankring mod 68 procent for GPT-6 Astra. Ifølge Mistrals egen måling, som ikke er uafhængigt verificeret, afviser modellen oftere ondsindede cyberprompts end andre open source-modeller. Til kodning angiver Mistral 61,7 procent på DeepSWE v1.1, men ifølge Netzwoche, med henvisning til Heise, er de førende lukkede modeller fra OpenAI og Claude stadig tydeligt bedre til softwareudvikling. Uafhængige tests placerer ifølge et sekundært medie modellen under lukkede topmodeller på generelle benchmarks.

Det er den god til

Large 4 passer til virksomheder og myndigheder, der arbejder med it-sikkerhed, og som vil beholde data og model hos sig selv. Billedforståelse og de relativt lave API-priser gør den også interessant til analyse af dokumenter og billeder.

Til avanceret programmering er de lukkede konkurrenter stadig det sikre valg ifølge Netzwoche. Finimize peger desuden på, at en model, der først er downloadet, ikke kan slås fra igen. Derfor afhænger sikkerheden af, om den er testet grundigt nok, før vægtene spredes. Om modellen kan bruges frit i Danmark og EU, fremgår ikke særskilt af kilderne, ud over at Studio og API er offentlige.