KI SpotlightNewsNVIDIA veröffentlicht cuTile Rust und portiert 24 TileGym-Operatoren per KI-Agent
Tile-basiertes System für speichersichere GPU-Kernel in Rust erreicht im Schnitt 99,5 Prozent der cuTile-Python-Leistung
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- cuTile Rust (cutile-rs) ist ein tile-basiertes System für sichere, idiomatische GPU-Kernel-Entwicklung in Rust.
- Es erweitert das Rust-Ownership-Modell auf GPU-Kernel, indem es veränderbare Ausgaben in disjunkte Teile aufteilt und den Ownership-Vertrag über Kernel-Starts hinweg erhält.
- Lokale Opt-outs erlauben direkte Ausführung von Tile-IR-Operationen für niedrigere Kontrolle.
- Die TileGym-Bibliothek enthält viele Produktions-Kernel in CUDA Tile Python und Triton-TileIR.
- Ein KI-Agenten-Skill übersetzt cuTile-Python- und Triton-TileIR-Kernel nach cuTile Rust.
- Mit diesem Skill wurden alle 24 öffentlichen TileGym-Operatoren nach cuTile Rust portiert und erreichten im Durchschnitt 99,5% der cuTile-Python-Leistung.
cuTile Rust: Tile-basiertes System für speichersichere GPU-Kernel in Rust
NVIDIA hat cuTile Rust (cutile-rs) veröffentlicht, ein tile-basiertes System für speichersichere, idiomatische GPU-Kernel-Entwicklung in Rust. Es erweitert das Rust-Ownership-Modell über die GPU-Startgrenze hinweg: Veränderbare Tensoren werden vor dem Start in disjunkte Teile partitioniert, unveränderliche Tensoren werden geteilt, und generierte Launcher erhalten das Ownership, während GPU-Arbeit läuft. Der Ownership-Vertrag bleibt über Kernel-Starts hinweg erhalten. Für niedrigere Kontrolle erlauben lokale Opt-outs die direkte Ausführung von Tile-IR-Operationen. Das #[cutile::module]-Makro bettet einen Rust-AST ein; Kernel werden bei Bedarf über CUDA Tile IR in ein GPU-Cubin JIT-kompiliert. Unterstützt werden synchrone Starts, asynchrone Pipelines und CUDA-Graph-Replay. NVIDIA stellt das Projekt als Demonstration vor, wie GPU-Programmierung im Rust-Ökosystem verfügbar gemacht werden kann.
KI-Agent portiert 24 TileGym-Operatoren mit 99,5 Prozent Performance
Die TileGym-Bibliothek enthält viele Produktions-Kernel in CUDA Tile Python und Triton-TileIR. Eine agentische KI-Pipeline von NVIDIA übersetzt diese bestehenden Kernel automatisiert nach cuTile Rust. Mit diesem Skill wurden alle 24 öffentlichen TileGym-Operatoren portiert und erreichten im Durchschnitt 99,5 Prozent der cuTile-Python-Leistung. Die portierten Operatoren umfassen etwa 40 GPU-Kernel, von elementweisen Operationen bis zu Flash-Attention-Decode, Multi-head Latent Attention (MLA) und Mixture-of-Experts (MoE); einige Operatoren benötigen mehrere Kernel-Varianten. Jede Konvertierung startet von der jeweiligen Referenzimplementierung und durchläuft eine begrenzte Multi-Agenten-Pipeline mit Analyse, Device-Kernel, Host-/FFI-Code und Benchmarking. Jede Stufe endet mit einem maschinenprüfbaren Urteil; Validator-Skripte und Tile-IR-Diffs entscheiden über den Fortgang. Der Skill wurde von NVIDIAs Team entwickelt, um alle TileGym-Kernel auch in Rust verfügbar zu machen. Die portierten Kernel decken ein breites Spektrum ab.
Frühes Stadium, Version 0.4.0 und CUDA-Rust-Ausbau
Das Projekt befindet sich in einem frühen Stadium und unter aktiver Entwicklung; Bugs, unvollständige Features und API-Brüche sind zu erwarten. Version 0.4.0 führt eine breaking API-Änderung ein: Global erfordert einen sealed device atomic type und lehnt Weak-Ordering und TileBlock-Scope ab. Kernel-Cache-Eviction-APIs (clear_kernel_cache, evict_kernel, retain_kernels) sind ohne experimental-tune verfügbar. Cache-Hit-Kernel-Starts sind auf dem Host etwa 2,4-mal schneller (3,9 µs auf 1,6 µs pro Start auf Ryzen 9 9950X, RTX 5090). NVIDIA hat im September 2026 angekündigt, native GPU-Programmierung in Rust auszubauen; CUDA Rust soll bis 2027 und darüber hinaus wachsen. Es gibt zwei Tracks: SIMT und Tile; Tile ist neuer und auch in C++ und Python verfügbar; NVIDIA empfiehlt, zuerst Tile zu nutzen.
