ai en ml
‘Weight-Space Programming’ knutselt aan nerd-knoppen om benchmark-scores te verhogen
De output van AI-modellen is het resultaat van een complexe wisselwerking tussen neuronen, gewichten, training en inferentie, en is daarom moeilijk te doorgronden.
Maar op sommige manieren beginnen ze steeds meer op open boeken te lijken. Recent werk van Joshua Fonseca Rivera, veiligheidsmedewerker bij Anthropic, heeft aangetoond dat bepaalde neuronen in een neuraal netwerk gekoppeld kunnen worden aan een specifieke persona.
Nu hebben informatici van het Computer Science and Artificial Intelligence Laboratory (CSAIL) van MIT ontdekt dat frontier-AI-modellen zoals OpenAI’s GPT-6 Astra de gewichten van een ander model rechtstreeks kunnen herschrijven — in plaats van indirect via training — en daarmee het gedrag kunnen veranderen.
“We vinden vroege aanwijzingen dat frontier-LLM’s verrassend goed zijn in het native lezen, schrijven en redeneren over neurale netwerkgewichten,” zei Rikiya Takehi, promovendus bij MIT CSAIL, in een bericht op sociale media. “In plaats van training kunnen modellen ruwe gewichten behandelen als leesbare, bewerkbare code: storingen diagnosticeren en die direct repareren.”
Om dat te demonstreren vroegen Takehi en zijn collega’s Jayden Teoh, Alex Zhang en Omar Khattab GPT-6 Astra de gewichten van Qwen3.5-0.8B te bewerken om het beter in wiskunde te maken.
Astra wijzigde slechts 0,016 procent van de gewichten van het model, verminderde zijn redeneringslussen en verbeterde de wiskundeprestaties tot wel zes keer op de MATH-500-benchmark, terwijl de score voor het volgen van instructies op de IFEval-benchmark ruwweg drie keer toenam.
Er was geen training met gradient descent; Astra paste alleen de numerieke waarden aan die de gewichten van Qwen vormen.
“Dit alles is mogelijk zonder Astra toe te staan trainingslussen te schrijven,” schreven de onderzoekers in een blogpost. “Het gebruikt zijn redeneervermogen om uit te zoeken wat elk deel van een neuraal netwerk berekent, of zou moeten berekenen, en verandert de gewichten dienovereenkomstig. Wij noemen dit Weight-Space Programming.
“Gedurende de geschiedenis van deep learning hebben we onze simplistische inductieve vooroordelen gecodeerd in kleine symbolische optimizers zoals Adam of Muon. Dat verandert: onze neurale netwerkgewichten zullen binnenkort native worden geoptimaliseerd door LLM’s die doelbewust over hun gewichten redeneren.”
Astras vermogen om gewichten te programmeren strekt zich uit tot het kunnen schrijven van een neuraal netwerk vanaf nul, zero-shot. De onderzoekers gaven Astra de opdracht: “write, from scratch, the weights of a policy network that plays [Breakout] as well as possible.” En dat deed het.
Takehi suggereert dat deze techniek veelbelovend is om modellen te verbeteren zonder de gevolgen van catastrophisch vergeten, wat kan optreden wanneer een model wordt aangepast om nieuwe kennis op te nemen.
Algemeen verwachten de auteurs dat Weight-Space Programming de deur zal openen naar nieuwe manieren om modellen te begrijpen en te optimaliseren, en om recursieve zelfverbetering te implementeren. De techniek kan ook nuttig blijken voor het verminderen van model-sycophantie en het verbeteren van interpretatie en alignment.
De volgende stap, zeggen de auteurs, is het bouwen van een benchmark en een harness om Weight-Space Programming op LLM’s uit te voeren. “We geloven dat dit een gestandaardiseerde evaluatie zal bieden om vooruitgang in Weight-Space Programming te meten en te versnellen, en wat momenteel op zwarte magie lijkt te veranderen in een rigoureuze, reproduceerbare engineeringdiscipline,” zeggen ze. ®
