Die Netze von Coherent: Hauptnetz, Lehrer und Kaskade

Coherent bewertet Stellungen mit einem neuronalen Netz. Im Projekt geht es heute um vier Breiten: 768, 1024, 1536 und 3072. Dieser Beitrag zeigt, was hinter jeder steckt, was gemessen wurde und wie zwei Netze in einer Kaskade zusammenarbeiten. Die Zahlen sind gekennzeichnet: Orakel (Urteil der unabhängigen Messkette), interne Messung (Partien des Projekts außerhalb des Orakels, kein Orakelurteil) oder gerechnet. Stand: 05.11.2026.

Kurzfassung

• Hauptnetz: Seit dem 08.09.2026 brachte das Orakel 16 Netze in den Hauptzweig. Ihre Breite wuchs von 128 auf 768; breiter war noch kein Hauptnetz.
• Lehrer: Das Netz der Breite 1536 heißt im Projekt Lehrer. Bei gleicher Knotenzahl spielte es in allen 8 Stufen stärker als das Hauptnetz (interne Messung). An der Uhr ist es langsamer, und sein Vorsprung schrumpft auf +17,1 EloElo Stärkeabstand zum Gegner, aus den Partien geschätzt, mit 95-Prozent-Halbbreite, wo das Orakel eine berichtet hat. Nie eine absolute Wertung..
• Kaskade: Ein Programm mit beiden Netzen fragt den Lehrer nur bei knappen Bewertungen. Mit zwei Tempoänderungen lag es an der Uhr +23,4 Elo vor dem Hauptnetz (interne Messung).
• Gleiche Daten, kleines Netz: Ein Netz der Breite 768, trainiert mit denselben Daten und demselben Rezept wie der Lehrer, lag intern +3,9 Elo vorn. Die Triage der Messkette lehnte es ab.
• 1024 und 3072: Für 1024 gibt es einen eigenen Beitrag. Für 3072 steht der Aufbau fest; Messwerte dazu enthält dieser Beitrag nicht.

Was „Breite“ heißt

Das Netz übersetzt jede Stellung zuerst in Merkmale: für jede Seite 768, also 2 Farben × 6 Figurenarten × 64 Felder. Welche Gewichte gelten, hängt zusätzlich davon ab, in welchem von 8 Bereichen der eigene König steht (Königseimer). Die erste Schicht verdichtet diese Merkmale auf so viele Neuronen je Seite, wie die Breite angibt. Danach folgen kleine Schichten und eine Zahl, die Bewertung.

Fast alle Gewichte stecken in dieser ersten Schicht. Die Netze 1536 und 3072 haben dort zusätzlich 86.808 Drohmerkmale; sie sagen dem Netz, welche Steine gerade angegriffen werden.

Die Gewichte der ersten Schicht (gerechnet) zeigen, wie stark die Netze wachsen: 4,7 Millionen bei 768, 6,3 Millionen bei 1024, 142,8 Millionen beim Lehrer 1536 und 285,5 Millionen bei 3072. Bei den beiden großen Netzen entfällt der größte Teil auf die Drohmerkmale.

Das Hauptnetz: 768

Das erste Netz ersetzte am 08.09.2026 die handgeschriebene Bewertung. Seitdem prüfte das Orakel jedes neue Hauptnetz gegen seinen Vorgänger. Die ersten 15 dieser Netze beschreibt der Beitrag „15 Netze in 40 Tagen: die Ahnenreihe der Bewertung“. Danach kam eines hinzu.

Das aktuelle Hauptnetz kam am 23.10.2026 in den Hauptzweig. Es hat 8 Königseimer statt 4. Zuerst wurde ein Startnetz 16 Epochen lang trainiert, mit 26,43 Milliarden Zeilen je Epoche. Danach folgten 4 Epochen auf 148.834.647 Stellungen, die zuvor die Suche der Engine selbst bewertet hatte (Selbstdestillation). In der kurzen Stufe des Orakels (8+0,08, Buch A) lag es +9,23 Elo vor seinem Vorgänger (95-%-Intervall +4,11 bis +14,36, 4.556 Partien; Orakel).

Den Vergleich eines Netzes der Breite 1024 mit einer 768er-Kontrolle bei gleichen Daten und die Rechnung dazu beschreibt der frühere Beitrag „Netz der Breite 1024: Plan, Rechnung und Stand vor dem Start“.

Der Lehrer: 1536

Ein Lehrer ist im Projekt ein großes Netz, dessen Bewertungen anderen Netzen als Lernziel dienen sollen. Sein Name folgt dem Lehrerregister des Projekts: T1536w-K64-v1 heißt Lehrer (T), Breite 1536, aus dem Vorgänger funktionserhaltend verbreitert (w), Kopfbreite 64 (K64), Version 1.

• Aufbau: 1536 Neuronen je Seite, 8 Königseimer mit Spiegelung, Drohmerkmale fein und grob, danach 2 Schichten mit je 64 Neuronen.
• Start: warm aus dem Hauptnetz, nicht von null.
• Daten: ein Durchgang über 16.584.642.797 Zeilen. Etiketten sind die Bewertung der eigenen Suche und das Partieergebnis. 200 Datenblöcke blieben zurückgehalten und wurden nie trainiert.
• Aufwand: 43,2 GPU-Stunden.
• Mittlerer quadratischer Fehler (MSE) auf den zurückgehaltenen Stellungen: 0,013900 gegen 0,015426 beim Hauptnetz (interne Messung).

Das fertige Programm ist 423 MB groß, weil die Gewichte darin stecken.

Bei gleicher Knotenzahl. Zuerst spielte der Lehrer gegen die Engine mit Hauptnetz, beide mit derselben festen Zahl von Knoten je Zug, in 8 Stufen von 1.000 bis 200.000 Knoten zu je 15.000 Partien (interne Messung). Er war in jeder Stufe stärker, zwischen +104,5 Elo bei 200.000 Knoten und +151,6 Elo bei 5.000 Knoten. Alle 8 Urteile halten auch nach der Korrektur für mehrfaches Testen (Holm).

An der Uhr. Feste Knoten blenden die Rechenzeit aus. An der Uhr zahlt der Lehrer für sein großes Netz. Bei 8+0,08 Sekunden gewann ein früherer Bau +10,0 Elo (95-%-Intervall +7,5 bis +12,4). Ein Bau, der in einer eigenen Tempomessung 11,7 % schneller rechnete, bei bitgleicher Bewertung und gleichem Suchbaum, gewann +17,1 Elo (+14,6 bis +19,5). Dabei schaffte er 1,07 Millionen Knoten je Sekunde, das Hauptnetz 2,34 Millionen. Je 15.000 Partien, interne Messung.

Bei der längeren Bedenkzeit 20+0,2 lag derselbe Bau +19,4 Elo vorn (+15,8 bis +22,9, 6.000 Partien). Auf denselben ersten 3.000 Eröffnungen hatte derselbe Bau bei 8+0,08 +19,6 Elo erreicht. Die gepaarte Differenz betrug −0,2 Elo (−5,3 bis +4,9); ein Unterschied zwischen den beiden Bedenkzeiten war nicht messbar.

Gleiche Daten, kleines Netz: K2

K2 entstand als Kontrollnetz zum Lehrer, im Aufbau des Hauptnetzes: Breite 768, 8 Königseimer, kleiner Kopf mit 16 und 32 Neuronen, ohne Drohmerkmale. Daten, Rezept und Warmstart waren dieselben wie beim Lehrer. Die Werte der Tabelle sind interne Messungen des Projekts, keine Orakelurteile.

K2 lag intern +3,9 Elo vorn (+1,6 bis +6,2, 15.000 Partien) und war fast genau so schnell wie das Hauptnetz. In der Triage der Messkette wurde K2 am 04.11.2026 abgelehnt. Der Lehrer unterscheidet sich von K2 nicht nur in der Breite, sondern auch in den Drohmerkmalen und im Kopf; welcher Teil wie viel beiträgt, trennen diese Messungen nicht.

Die Kaskade: zwei Netze in einem Programm

Der Lehrer bewertet besser, rechnet aber langsamer. Die Kaskade versucht, beides zu verbinden.

Jede Bewertung rechnet zuerst das Hauptnetz; sein Wert wird korrigiert wie im Hauptzweig. Liegt dieser korrigierte Wert weniger als 96 Centipawn von der Schranke entfernt, gegen die die Suche gerade prüft, rechnet zusätzlich der Lehrer, und sein Wert gilt. Sonst gilt der Wert des Hauptnetzes, es sei denn, ein Lehrerwert für diese Stellung liegt schon im Wertspeicher; dann gilt dieser. Der Lehrer holt seine Zwischensummen erst nach, wenn er gebraucht wird. Mit der Schranke 0 rechnet das Programm bitgleich zur Engine mit Hauptnetz, mit unbegrenzter Schranke bitgleich zur Engine mit Lehrer; beides wurde geprüft.

Gemessen (interne Messungen):

• Gegen den Lehrer allein: Mit der Schranke 96 lag die Kaskade in 15.000 Partien +5,3 Elo vorn (+3,0 bis +7,5) und rechnete 1,13 statt 1,00 Millionen Knoten je Sekunde. Die zweite vorab gewählte Schranke 48 ergab laut Messbericht −0,2 Elo (−2,5 bis +2,2).
• Zwei Tempoänderungen: Beide lassen den Suchbaum unverändert. Das Vorladen von Speicher senkte die Zeit je Knoten auf das 0,9785-fache (0,9761 bis 0,9810), große Speicherseiten für die Netzgewichte senkten sie noch einmal auf das 0,9755-fache (0,9736 bis 0,9773). Den Elo-Beitrag jeder einzelnen Änderung hat das Projekt nur aus diesen Tempomessungen geschätzt; an der Uhr gemessen wurde die gesamte Kaskade mit beiden Änderungen.
• Gegen das Hauptnetz: Die Kaskade mit beiden Tempoänderungen lag bei 8+0,08 +23,4 Elo vor der Engine mit Hauptnetz (+18,9 bis +27,9, 4.000 Partien), bei 1,24 gegen 2,37 Millionen Knoten je Sekunde. Auf denselben ersten 2.000 Eröffnungen hatte der Lehrer allein in seiner eigenen Messung gegen das Hauptnetz +21,1 Elo erreicht. Im gepaarten, indirekten Vergleich beider Messungen lag die Kaskade +2,3 Elo höher (−4,3 bis +8,7); dieser Unterschied ist nicht entschieden.

Die Breite 3072

Am 31.10.2026 legte das Projekt den Aufbau eines Lehrers der Breite 3072 fest: 3072 Neuronen je Seite, 8 Königseimer mit Spiegelung, dieselben Drohmerkmale und derselbe Kopf wie beim Lehrer 1536. Er startet funktionserhaltend aus dem Lehrer 1536: Die alten Spalten bleiben bytegleich, neue Spalten der ersten Schicht beginnen mit kleinen Zufallswerten, ihre Anschlüsse an die nächste Schicht und die neuen Drohspalten mit null. Zu Beginn bewertet das breitere Netz also genau wie sein Vorgänger. Messwerte zur Breite 3072 enthält dieser Beitrag nicht.

Ideen im Register

Netze sind nur ein Teil der Forschung. Von den 1.671 Einträgen im Hypothesenregister betreffen 118 das Netz, 47 davon sind offen. Der größte Bereich ist die Suche mit 813 Einträgen. Einige offene Ideen in einfachen Worten:

• Zwischenlehrer: Ein Netz mittlerer Größe lernt vom großen Lehrer und gibt das Gelernte an das kleine Netz weiter, damit der Größenunterschied nicht zu groß wird.
• Klein anfangen: Ein Netz der halben Breite 384 lernt zuerst billiger und wird dann funktionserhaltend auf 768 verbreitert.
• Gewinn, Remis, Verlust: Ein zusätzlicher Ausgang schätzt die Remiswahrscheinlichkeit und dämpft damit die Bewertung.
• Kürzen: Ein trainiertes Netz der Breite 1024 wird ohne neues Training auf 896 Spalten verkleinert, indem die 128 am wenigsten beitragenden Spalten entfallen; die Schwellenwerte der nächsten Schicht gleichen deren mittleren Beitrag aus.

Was die Zahlen zeigen und was nicht

• Interne Messungen sind keine Orakelurteile. Sie liefen nach eigenen Protokollen, mit selbst erzeugten Eröffnungen, Hash 16 und 15 Partien gleichzeitig. Das Orakel misst unter eigenen Bedingungen.
• Nur gegen die eigene Basis. Alle Werte messen gegen die Engine mit Hauptnetz oder gegen den Lehrer. Gewinne gegen die eigene Basis sind nur ein Indiz für Spielstärke gegen andere Engines.
• Feste Knoten sind nicht die Uhr. Die Werte bei festen Knoten blenden die Rechenzeit aus und sind deshalb viel größer als die Werte an der Uhr.
• Größe, Daten und Merkmale sind verbunden. Der Lehrer unterscheidet sich von K2 in Breite, Drohmerkmalen und Kopf; die Messungen trennen diese Anteile nicht.
• Gerechnete Werte wie die Zahl der Gewichte oder der Elo-Wert der Tempoänderungen sind keine Spielmessungen.

Quellen

• Orakelregister, Export vom 05.11.2026: 16 Hauptnetze, kurze Stufe des aktuellen Hauptnetzes.
• Commit-Historie der Gewichtsdatei im Engine-Repositorium; Kopf der Gewichte im Hauptzweig.
• Messberichte und Paketbeschreibungen des Projekts zu Lehrer, K2 und Kaskade vom 01. bis 05.11.2026, mit PentanomialPentanomial Gespielt wird in Paaren mit vertauschten Farben; die fünf Zahlen sind die Paare mit 0, ½, 1, 1½ und 2 Punkten. oder Siegen, Remis und Niederlagen; Punktwerte und Intervalle mit eigenem Skript nachgerechnet, wo ein Pentanomial vorliegt, beim früheren Lehrerbau der Punktwert aus Siegen, Remis und Niederlagen; die übrigen gepaarten Vergleiche, Tempointervalle und der Wert zur Schranke 48 stammen aus den Messberichten.
• Lehrerregister und Aufbauentscheid zur Breite 3072 vom 31.10.2026.
• Hypothesenregister, Stand 05.11.2026.