DeepMind will Signal-Code mit KI-Agenten in vier Wochen verifiziert haben
DeepMind beansprucht mit AlphaProof Code eine Premiere bei der formalen Verifikation. Eine dokumentierte Lean-Arbeit von Galois zu libsignal steht dem Erstanspruch gegenüber; ihr Verhältnis zu DeepMinds Arbeit ist ungeklärt.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- DeepMind hat AlphaProof Code veröffentlicht, ein Multi-LLM-Agentenframework für formale Verifikation.
- DeepMind gibt an, zentrale Sicherheitseigenschaften des Signal-Protokolls mathematisch bewiesen zu haben.
- Agenten auf Basis von Gemini Carbon schreiben die Lean-Beweise und markieren Teile zur menschlichen Prüfung.
- Die Beweise beziehen sich laut DeepMind auf den kompilierten Code, der auf Geräten läuft.
- Das System erzeugte laut DeepMind über sechs Millionen Zeilen Lean bei vier Wochen Verifikationsdauer.
DeepMind will Signal-Code in vier Wochen mit KI-Agenten verifiziert haben
Google DeepMind hat AlphaProof Code vorgestellt. Das Framework verbindet mehrere Sprachmodelle als Agenten mit menschlicher Expertise und soll Code formal verifizieren. Formale Verifikation heißt: mathematisch beweisen, dass Code seiner Spezifikation entspricht. Nach Angaben von DeepMind hat das System damit zentrale Sicherheitseigenschaften des Codes hinter dem Signal-Protokoll in Lean bewiesen. Signal und Google Messages setzen dieses Protokoll ein. Die Beweise beziehen sich laut DeepMind auf den kompilierten Code, der auf den Geräten läuft, nicht allein auf das Protokolldesign.
Vier Wochen veranschlagt DeepMind für die Arbeit. Eine Verifikation dieser Tiefe dauere normalerweise Jahre mit Expertenteams, so das Unternehmen. Dabei handelt es sich um eine Herstellerangabe. Zu Teamgröße, Rechenaufwand und Vorarbeit fehlen im vorliegenden Material Angaben. Der Vergleich lässt sich deshalb nicht einordnen.
DeepMind nennt die Arbeit ein lange bestehendes „großes Sicherheitsproblem" und einen „Durchbruch".
Menschen prüfen die Spezifikationen, Gemini-Agenten schreiben die Lean-Beweise
Die Arbeitsteilung beschreibt DeepMind so. Menschliche Forschende übersetzen die Sicherheitsziele von Signal zusammen mit einer Mischung aus Modellen in formale Spezifikationen. Menschliche Experten prüfen jede dieser Spezifikationen. Dieser Schritt legt fest, was überhaupt bewiesen wird. Agenten auf Basis von Gemini Carbon schreiben danach die Beweise, prüfen ihre eigene Arbeit und markieren Teile zur menschlichen Prüfung. Ob ein Beweis gilt, entscheidet am Ende Lean, das die Beweise automatisch prüft.
Über sechs Millionen Zeilen Lean habe das System erzeugt, gibt DeepMind an. Wie viel davon Menschen geprüft haben, lässt sich nicht sagen. Die entsprechende Angabe ist im vorliegenden Material abgeschnitten. DeepMind kündigt an, die Verifikationsartefakte als Open Source zu veröffentlichen. Ob sie bereits verfügbar sind, ist nicht belegt.
Der Erstanspruch ist ungeprüft und steht einer Lean-Arbeit von Galois gegenüber
DeepMind spricht davon, dass KI erstmals ein weit verbreitetes kryptografisches Protokoll in dieser Tiefe formal verifiziert habe. Außerdem sei es das erste Mal, dass die Implementierung eines solchen Protokolls mit irgendeiner Methode formal verifiziert wurde. Dem steht eine dokumentierte Lean-4-Arbeit von Galois zu Signals PQXDH gegenüber. Sie arbeitet mit Modellen des libsignal-Rust-Codes, die mit Aeneas extrahiert wurden. Korrektheitssätze der Spezifikation sind dort bewiesen. Die Sicherheitssätze sind teils noch mit „sorry" offen. Für Game-Hop-Beweise kam Claude zum Einsatz.
Datum und Umfang der Galois-Arbeit enthält das Material nicht. Ihr Verhältnis zu DeepMinds Projekt ist ebenfalls ungeklärt. Der Unterschied liegt womöglich in Tiefe und Vollständigkeit. Das bleibt eine Vermutung. Maschinell geprüfte Verifikation ganzer Systeme gab es schon vorher, etwa beim seL4-Mikrokernel. Das ist allerdings ein Betriebssystemkern und kein Kryptoprotokoll.
Paper, Repo und Artefakte konnten bislang nicht unabhängig geprüft werden. Die Darstellung stützt sich auf den DeepMind-Blogpost. Eine Einordnung durch Fachleute für Formal Methods und Kryptografie steht noch aus.


