KI SpotlightNewsMeryem Arik kündigt Keynote mit KI-Vorhersagen für QConAI 2030 an
Die CEO von Doubleword will in ihrer Keynote vorhersagen, welche Themen das Programm der Konferenz 2030 prägen werden – von massively parallel inference bis zur Zukunft des Software-Ingenieurs.
Mit KI erstellt◆ Fakten auf einen Blick
- Meryem Arik ist Co-Founder und CEO von Doubleword (zuvor TitanML).
- Die Keynote trägt den Titel 'A Few Predicted Talks From QConAI 2030' und ist Teil des QConAI 2030 Programms.
- Der Abstract der Keynote nennt als Themen: massively parallel inference, managing more saas apps than you have employees, und die Zukunft des Software-Ingenieurs.
- Meryem Arik hat zuvor einen TEDx-Talk mit dem Titel 'AI's Looming Hardware Crisis' gehalten, in dem sie argumentierte, dass Inference wichtig wird und nicht genug GPUs vorhanden sein werden.
- Doubleword bietet eine Plattform für High-Throughput-Inference an, die aus fünf Schichten besteht, darunter ein Control Layer (ein Rust-basiertes Model Gateway) und eine Orchestrierungsschicht.
- Doubleword bietet Batch Inference mit 1-Stunden- und 24-Stunden-SLAs an.
Keynote kündigt Vorhersagen für QConAI 2030 an
Die Konferenz QConAI 2030 hat eine Keynote von Meryem Arik angekündigt. Der Titel lautet 'A Few Predicted Talks From QConAI 2030'. Im Abstract kündigt Arik an, vorhergesagte Session-Themen für das Programm 2030 zu präsentieren. Als Grundlage nennt sie Trends, die sie bisher beobachtet hat: massively parallel inference, das Management von mehr SaaS-Apps als Mitarbeitern und die Zukunft des Software-Ingenieurs. Einige dieser Vorhersagen seien offensichtlich, andere konträr, mindestens eine sei wahrscheinlich falsch. Die Keynote ist Teil des offiziellen Programms der Konferenz. In der Sprecherbio wird Arik als Co-Founder und CEO von Doubleword sowie als Forbes-30-Under-30-Mitglied und ehemalige Physikerin ausgewiesen. Ein teilweises Transkript der Keynote liegt vor.
Sprecherin mit Hintergrund in KI-Hardware und High-Throughput-Inference
Meryem Arik ist Co-Founder und CEO von Doubleword, das zuvor als TitanML firmierte. Sie hat einen TEDx-Talk mit dem Titel 'AI's Looming Hardware Crisis' gehalten, in dem sie argumentierte, dass Inference an Bedeutung gewinnen werde und nicht genug GPUs für die benötigte Inferenz verfügbar sein würden. Doubleword bietet eine Plattform für High-Throughput-Inference an. Sie besteht nach Angaben des Unternehmens aus fünf Schichten, die jeweils unabhängig auf Durchsatz optimiert sind. Dazu gehört ein Control Layer, ein Rust-basiertes Model Gateway, das nach Herstellerangaben 450-mal weniger Overhead als LiteLLM verursacht. Eine Orchestrierungsschicht maximiert die Auslastung der GPU-Flotte. Weitere Schichten umfassen eine Runtime, die auf Open-Source-Inference-Engines wie TensorRT-LLM, SGLang, vLLM und Dynamo aufbaut, sowie eine Modellauswahl und eine Hardware-Strategie, die nicht an einen einzelnen Cloud-Anbieter oder GPU-Typ gebunden ist. Für Batch-Inference bietet Doubleword strikte Service-Level-Agreements von einer Stunde und 24 Stunden an. Das Unternehmen gibt an, die günstigsten Tokens auf dem Markt anzubieten. Die Keynote ordnet sich in diesen Kontext ein: Ariks Vorhersagen zu massively parallel inference basieren auf ihrer Arbeit an High-Throughput-Inference.
