Live Instagram rollt Content Protection aus: Creator sehen und steuern Kopien ihrer Videos
↘

Sable: Autoren melden Beweis für 32B-Modell in 92,5 Sekunden auf einer GPU

Das Argumentsystem soll bitgenau belegen, dass ein ganzzahlig quantisiertes Transformer-Modell eine Tokenfolge erzeugt hat – Reproduktion und Begutachtung stehen aus

· Veröffentlicht: 12.11.2026 ·2 Min Lesezeit
Sable: Autoren melden Beweis für 32B-Modell in 92,5 Sekunden auf einer GPUMit KI erstellt
Inhalt
◆ Fakten auf einen Blick
  • Sable ist ein Argumentsystem und Ein-GPU-Prover für ganzzahlig quantisierte Transformer-Modelle.
  • Ein Beweis belegt, dass eine Tokenfolge bitgenau aus einem Prompt erzeugt wurde.
  • Qwen2.5-32B benötigt für 4.096 Tokens auf einer NVIDIA RTX PRO 6000 Blackwell 92,5 s.
  • Laut Autoren kostet der Beweis pro 4.096-Token-Anfrage 6,4 Cent bei öffentlichen GPU-Preisen.
  • Die Verifikation läuft laut README auf einem CPU-Kern ohne GPU in 19 bis 56 s.

Sable: Autoren melden Beweis für 32B-Modell in 92,5 Sekunden auf einer GPU

Sable ist ein Argumentsystem mit Ein-GPU-Prover. Es soll belegen, dass ein festgelegtes, ganzzahlig quantisiertes Transformer-Modell aus einem Prompt eine bestimmte Tokenfolge bitgenau erzeugt hat. Die Autoren beschreiben das in einem Preprint. Den Code stellen sie in einem GitHub-Repository bereit, das außerdem das Paper als PDF enthält.

Auf einer NVIDIA RTX PRO 6000 Blackwell (96 GB) beweist Sable laut Autorenangaben alle 64 Layer von Qwen2.5-32B in 92,5 Sekunden für 4.096 Tokens. Vier solcher Sequenzen brauchen 253 Sekunden, eine Sequenz mit 16.384 Tokens 398 Sekunden. Qwen3-32B schafft 4.096 Tokens in 121,8 Sekunden. Das Mixture-of-Experts-Modell Qwen3-30B-A3B braucht 84,7 Sekunden. Grundlage sind Sumcheck und LogUp-GKR-Lookups über dem 31-Bit-Körper KoalaBear.

Das README gibt an, die Zeiten seien Mittelwerte aus drei Läufen nach einem Warm-up. Jeder Beweis deckt den gesamten Prompt sowie 16 generierte Tokens ab.

Bewiesen wird eine Ganzzahlfunktion, nicht das BF16-Original

Bewiesen wird die Funktion F_O. Sie kommt ohne Gleitkommaschritte aus. Rundung, Normalisierung, Softmax und Sampling sind durch die Eingaben festgelegt. Jede GPU liefert deshalb für dieselbe Eingabe dieselbe Ausgabe.

Die Ergebnisse weichen jedoch vom Originalmodell ab. Auf WikiText-2 stimmt das Greedy-Token von F_O an 86,3 Prozent der Positionen mit dem BF16-Modell überein. Bei Qwen3 liegt F_O auf MMLU 1,6 Punkte und auf GSM8K 1,7 Punkte von BF16 entfernt. Der Beweis gilt ausschließlich für F_O, nicht für das BF16-Original.

Beweis 41- bis 50-mal so teuer wie das Serving, Prüfung auf einem CPU-Kern

Laut Autoren kostet der Beweis das 41- bis 50-Fache der Serving-Zeit. Bei öffentlichen GPU-Preisen ergeben sich 6,4 Cent pro Anfrage mit 4.096 Tokens.

Die Verifikation läuft auf einem einzelnen CPU-Kern ohne GPU. Laut README dauert sie 19 bis 56 Sekunden.

Gegenüber zkLLM beanspruchen die Autoren eine 40- bis 64-mal kürzere Zeit pro Parameter und Token. Für zkLLM nennt ein Übersichts-Gist rund 15 Minuten bei 13B. Diese Angabe stammt aus einem Survey und ist nicht an der Primärquelle geprüft. DeepProve beweist nach eigenen Angaben GPT-2 mit 512 Tokens in 7,6 Minuten und Gemma 3 in 19 Minuten, gemessen auf einem 24-Kern-CPU-Server.

Direkt vergleichbar sind die Zahlen nicht. Modelle, Bitbreiten und Hardware unterscheiden sich.

Reproduktion und Begutachtung stehen aus

Aussagen wie, die Constraints würden nachweislich nie modulo der 31-Bit-Primzahl wrappen, oder das Modell habe für jede Eingabe genau eine Ausgabe, sind Herstellerangaben. Prüfen lassen sie sich über die Soundness-Analyse im Paper und durch unabhängiges Nachrechnen mit dem veröffentlichten Code.

Ein Begutachtungsstatus geht aus dem Material nicht hervor. Eine unabhängige Reproduktion gibt es bislang nicht. Für Dritte besteht derzeit kein Handlungsbedarf.

A
Andreas Rüdiger
Herausgeber & Redaktionsleitung · KI-Modelle, Technik & Business

Andreas Rüdiger ist Gründer der Agentur INREMA und verantwortet KI Spotlight redaktionell. Sein Schwerpunkt liegt auf KI-Modellen, Recheninfrastruktur, technischen Entwicklungen und der wirtschaftlichen Einordnung. Er sorgt dafür, dass komplexe KI-Themen verständlich und nachvollziehbar aufbereitet werden. Mehr zu ihm auf inrema.de und andiger.de.

Ähnliche Artikel