Gemeinsame Layer-Gleichung zerlegt Graph Neural Networks in sieben Komponenten

Paper stellt gemeinsame Layer-Gleichung für Graph Neural Networks vor

Ein neues Paper mit dem Titel „Unifying Graph Neural Networks Through a Common Layer Equation“ führt eine gemeinsame Layer-Gleichung (Common Layer Equation) ein, die Graph Neural Networks in sieben Komponenten zerlegt. Der Abstract argumentiert, dass Graph Neural Networks bislang häufig durch architekturspezifische Gleichungen beschrieben werden, deren Notation gemeinsame Berechnungen und strukturelle Unterschiede verdeckt. Die vorgeschlagene Gleichung macht diese Gemeinsamkeiten sichtbar, indem sie eine einheitliche Notation verwendet und alle Architekturen auf dieselben sieben Komponenten abbildet. Dadurch wird erkennbar, dass viele Modelle denselben grundlegenden Ablauf teilen und sich nur in der konkreten Ausgestaltung einzelner Komponenten unterscheiden.

Zu den sieben Komponenten gehören laut Abstract mindestens die Update-Domäne, die Kanalmenge, die Propagierungsbank und die Per-Channel-Message-Maps. Der Abstract nennt diese vier Komponenten explizit, definiert sie aber nicht näher. Weitere Komponenten sind im vorliegenden Beleg nicht vollständig aufgeführt. Durch diese modulare Zerlegung wird jede Architektur als eine konkrete Instanziierung derselben sieben Komponenten dargestellt; der Vergleich zwischen Architekturen erfolgt dann komponentenweise, statt getrennte Gleichungen gegenüberzustellen.

Ziele: Architekturvergleich, theoretische Schranken, Oversmoothing und Expressivität

Mit der gemeinsamen Layer-Gleichung verfolgt das Paper drei Ziele: Architekturen sollen vergleichbar werden, theoretische Schranken sollen sich ableiten lassen, und Designentscheidungen im Zusammenhang mit Oversmoothing und Expressivität sollen sichtbar werden. Die Vergleichbarkeit entsteht, weil unterschiedliche Architekturen auf dieselben sieben Komponenten bezogen werden können; Unterschiede lassen sich so komponentenweise analysieren, ohne jede Architektur separat betrachten zu müssen. Theoretische Schranken lassen sich aus der einheitlichen Darstellung gewinnen, weil sie die Formulierung allgemeiner Aussagen über alle abgedeckten Architekturen erlaubt: Annahmen und Beweise können für eine ganze Familie von Modellen gleichzeitig geführt werden, statt für jede einzeln. Der Abstract nennt keine konkreten Schranken, beschreibt aber ausdrücklich, dass die Gleichung dazu dienen soll, theoretische Schranken abzuleiten und Designentscheidungen im Zusammenhang mit Oversmoothing und Expressivität aufzuzeigen. Die isolierte Betrachtung der Komponenten kann dabei helfen, Auswirkungen auf diese Phänomene zu untersuchen.