AI redigerer direkte i anden models hjerne og løfter matematik seks gange

Hvad er nyt

Forskere fra MIT CSAIL har vist en idé, de kalder »Weight-Space Programming«. Kort fortalt lader de en avanceret sprogmodel læse og skrive direkte i en anden models vægte. Vægte er de tal inde i en AI-model, der afgør, hvordan den tænker og svarer. Normalt ændrer man dem ved at træne modellen i lang tid. Her sker det uden gradienter og uden træning.

Forskerne brugte OpenAIs GPT-6 Astra til at redigere den lille open source-model Qwen3.5-0.8B, som er udgivet under Apache 2.0-licens. Astra ændrede omkring 0,016 procent af modellens parametre, svarende til 131.072 vægte ifølge VentureBeat. Forskerne offentliggjorde resultaterne i et blogindlæg den 2. november 2026.

Resultatet: Scoren på MATH-500, en test med svære matematikopgaver, steg fra 7,9 til 48,1 procent, cirka seks gange højere. På GSM8K, en test med skoleregnestykker, steg den fra 13,8 til 67,1 procent. På IFEval, der måler, om modellen følger instruktioner, gik den fra 21,0 til 62,3 procent.

Hvad er smart

Astra gættede ikke bare. Den fandt ud af, at den lille models svage matematik især skyldtes repetitionsløkker, hvor modellen gentager tekst og aldrig når frem til et svar. Astra sporede problemet til bestemte retninger i lag 15 og 19 og fjernede dem. Undersøgelsen krævede 50 evalueringsforespørgsler, 158 samtaleture og 80 Python-kørsler over 20,3 timer, ifølge VentureBeat.

I andre forsøg kunne Astra ud fra rå vægte alene se, hvilket spil et lille netværk var trænet på (rigtigt i alle 4 ud af 4 spil), og hvilket sprog en transformer med 7,16 mio. parametre var trænet på. Den fandt også alle de opmærksomhedshoveder, der kopierer tekst. I et kontrolopgave-forsøg rettede den en fejl ved at ændre 3,5 procent af 171.664 vægte, og succesraten gik fra 0 til 100 procent.

Astra skrev desuden spilspillende netværk fra bunden ud fra opgavebeskrivelser. Ifølge VentureBeat scorede et af dem 517,4 i MinAtar Breakout mod 25,3 for en baseline trænet med PPO, en udbredt træningsmetode. I Seaquest nåede netværket omkring 60 procent af PPO's præstation, ifølge 36Kr.

Billigere eller bedre?

En omkostningsanalyse mod almindelig træning findes ikke, så det kan ikke siges, om metoden er billigere. Prisen for at bruge GPT-6 Astra er heller ikke oplyst i kilderne til denne forskning, og det fremgår ikke, hvad adgangen koster i Danmark eller EU.

Bedre er det i hvert fald på de udvalgte tests, men med store forbehold. Ifølge VentureBeat fjernede indgrebet en hindring i modellen, men tilførte ikke ny matematisk viden. Metoden virkede heller ikke på Gemma 3 270M, fordi den model ikke havde ét tydeligt fejlmønster som repetitionsløkker. Der er kun testet på én lille model med 0,8 mia. parametre. Tallene er forskernes egne, blogindlægget er ikke peer reviewet, og resultaterne er ikke uafhængigt efterprøvet. Forsøgslogs er lagt på GitHub. VentureBeat skriver, at selvforbedrende cyklusser ikke er påvist.

Det er den god til

I dag er det først og fremmest forskning. Forskerne omtaler selv resultaterne som meget tidlige og eksperimentelle, og det er uklart, om metoden virker på større modeller.

På sigt peger idéen mod en måde at fejlfinde og rette AI-modeller på, næsten som at rette en enkelt fejl i et program i stedet for at bygge det om. Den kan især være relevant, når en lille åben model fejler af en konkret og tydelig grund. For almindelige brugere og virksomheder er der ikke et produkt at tage i brug endnu, men det er et tegn på, at AI-modeller i fremtiden måske kan blive efterset og forbedret af andre AI-modeller.