KI SpotlightNewsKTransformers v0.6.1: Inference und SFT als Nutzerfunktionen
Das Forschungsprojekt macht zwei Kernfunktionen aus dem kt-kernel-Quellcodebaum direkt für Anwender zugänglich und erweitert die Modellunterstützung um DeepSeek-V4-Flash, GLM-5.2 und MiniMax-M3.
Mit KI erstelltKTransformers v0.6.1: Inference und SFT als Nutzerfunktionen
Am 30. April 2026 wurde die Version 0.6.1 des Forschungsprojekts KTransformers veröffentlicht. Der Release stellt erstmals zwei Fähigkeiten aus dem kt-kernel-Quellcodebaum als explizite Nutzerfunktionen bereit: Inference und SFT. Das Projekt konzentriert sich auf effiziente Inferenz und Feinabstimmung großer Sprachmodelle durch heterogenes CPU‑GPU‑Computing. Indem die Funktionen nun als nutzerorientierte Schnittstellen angeboten werden, können Anwender ohne tiefes Systemwissen auf die Optimierungen des Kernels zugreifen – das senkt die Einstiegshürde für Forschung und Entwicklung erheblich. Am 6. Mai 2026 präsentierte das Team auf der GOSIM Paris im Track „Agentic AI on Edge“ die Inferenzleistung von KTransformers auf Consumer-Hardware.
Neue Modellunterstützung: DeepSeek-V4-Flash, GLM-5.2 und MiniMax-M3
Nach dem Release von v0.6.1 erweiterte das Projekt kontinuierlich die unterstützten Modelle. Am 2. Mai 2026 wurde die Kompatibilität mit DeepSeek-V4-Flash bekannt gegeben. Es folgte am 17. Juni 2026 die Integration von GLM-5.2. Nur wenige Tage später, am 21. Juni 2026, wurde die Unterstützung für MiniMax-M3 hinzugefügt. Zu jedem Modell stellte das Projekt ein Tutorial bereit.
Heterogenes Computing für effiziente Inferenz
KTransformers ist ein Forschungsprojekt, das sich auf effiziente Inferenz und Feinabstimmung großer Sprachmodelle durch heterogenes CPU‑GPU‑Computing konzentriert. Die neuen Nutzerfunktionen Inference und SFT machen diesen Ansatz direkt zugänglich: Sie stammen aus dem kt-kernel-Quellcodebaum, der für die heterogene Ausführung optimiert ist. Die Unterstützung für DeepSeek-V4-Flash, GLM-5.2 und MiniMax-M3 wurde jeweils mit Tutorials veröffentlicht und zeigt, wie das Projekt aktuelle Modellveröffentlichungen aufgreift. Auf der GOSIM Paris 2026 demonstrierte das Team die Inferenzleistung auf Consumer-Hardware und unterstrich damit die Praxistauglichkeit des heterogenen Computing-Ansatzes.
