Forscher des MIT CSAIL haben gezeigt, dass GPT-6 Astra die Gewichte eines kleineren Modells lesen und direkt verändern kann – ohne Trainingslauf und ohne Gradientenverfahren. Im Hauptversuch stieg die Genauigkeit von Qwen3.5-0.8B auf MATH-500 von 7,9 auf 48,1 Prozent, nachdem Astra rund 0,016 Prozent der Gewichte geändert hatte. Die Ergebnisse stammen aus einem Blogbeitrag, nicht aus einer begutachteten Studie.
Die Arbeit stammt von Rikiya Takehi, Jayden Teoh, Alex Zhang und Omar Khattab vom MIT CSAIL und erschien am 2. November 2026 als Blogbeitrag unter dem Titel „Sparks of Weight-Space Programming“. Beschrieben wird ein Verfahren, in dem ein Sprachmodell die Gewichte eines anderen Netzwerks als Zahlen liest, in natürlicher Sprache begründet, welche Funktion eine Schicht erfüllt, und diese Zahlen anschließend direkt verändert. Gradientenverfahren, Backpropagation und Trainingslauf entfallen.
Im Hauptversuch untersuchte GPT-6 Astra das offene Modell Qwen3.5-0.8B, dessen Modellkarte selbst vor Endlosschleifen beim Denken warnt: In den Tests des Teams liefen 93 Prozent der MATH-500-Antworten in das Limit von 32.768 Tokens. Astra führte die Schleife auf eine Richtung zurück, die von zwei der 24 Schichten erzeugt wurde, und entfernte sie aus 131.072 Gewichten – rund 0,016 Prozent des Modells. Nach 50 Übungsdurchläufen stieg MATH-500 von 7,9 auf 48,1 Prozent, GSM8K von 13,8 auf 67,1 Prozent und IFEval von 21,0 auf 62,3 Prozent. Mit 10 oder 25 Durchläufen verschwanden die Schleifen kaum.
Die Autoren ordnen das Ergebnis selbst eng ein. An Gemma 3 270M, das selten in Schleifen läuft, fand Astra nur gewöhnliche Rechen- und Algebrafehler; der MATH-500-Wert bewegte sich um höchstens einen Punkt. Ihr Fazit lautet: „Editing weights could remove an obstacle that hid an ability, but it could not add an ability the model lacked.“ Ein Eingriff kann also vorhandenes Können freilegen, aber keines hinzufügen. Der zweite Befund der Arbeit betrifft kleine Spielnetzwerke, die Astra ohne Verstärkungslernen direkt in Gewichtsform schrieb und die Netzwerke nach 100 Millionen Trainingsschritten übertrafen.
Innerhalb eines Tages kamen Einschränkungen hinzu. Matthew Honnibal, Entwickler der Sprachbibliothek spaCy, hält die Darstellung für irreführend, weil sie Experimente mit sehr unterschiedlichem Werkzeugzugang unter einer Aussage bündelt: Nur bei den drei kleinsten Netzwerken habe Astra allein aus rohen Gewichten gearbeitet, alle Versuche an echten Sprachmodellen hätten Python und bis zu 50 Stapel Übungsaufgaben genutzt. Sean Goedecke ordnet den Qwen-Eingriff als Steering ein, also als bestehende Technik. Eine unabhängige Nachprüfung auf Hugging Face ergab 51,0 Prozent auf MATH-500, wobei 31,6 Prozent der Antworten noch das Tokenlimit erreichten.
Die Arbeit ist ein Blogbeitrag und kein begutachteter Artikel; getestet wurde nur Astra, und die Netze sind klein. Für den Betrieb von KI-Systemen bleibt die Richtung relevant: Wenn Gewichte lesbar und schreibbar werden, ist eine Versionsnummer kein Prüfvermerk mehr. Modell-Dateien gehören schreibgeschützt, mit Prüfsumme und einer dokumentierten Liste der Konten, die sie ändern dürfen.
Autor: Team REN-AI-SSANCE – mit KI-Unterstützung erstellt, von Menschen geprüft und freigegeben.
Quelle: The AI Daily Brief – Originalmeldung vom 04.11.2026; Blogbeitrag des MIT-CSAIL-Teams vom 02.11.2026; ergänzend Startup Fortune vom 03.11.2026 und Madrobot vom 02.11.2026; Abruf/Archivstand: 05.11.2026




