Nvidia veröffentlicht Run:ai-Code zur GPU-Orchestrierung

Nvidia hat am Dienstag (13.) den vollständigen Quellcode von Run:ai veröffentlicht, der Plattform zur Orchestrierung von GPUs, die das Unternehmen Ende 2024 von dem israelischen Startup mit demselben Namen erworben hat. Der Code ist in einem Repository der Organisation NVIDIA DSX AI Factory auf GitHub verfügbar, und das Unternehmen betrachtet die Veröffentlichung als Teil der DSX-Plattform, ihrem Referenz-Set für den Aufbau und Betrieb von "KI-Fabriken".

Was veröffentlicht wurde

Die Plattform wird in vier Modulen angeboten, die separat verwendet werden können: der KAI Scheduler, der Arbeitslasten in Kubernetes unter Berücksichtigung der GPUs plant; der GPU Fractioning Operator, der eine physische Karte in mehrere Aufgaben aufteilt; das KAI Resource Management, das für Quoten und Hierarchien pro Team verantwortlich ist; und die Workload Map, die standardisiert, wie die Arbeitslasten beschrieben und verwaltet werden.

Ein Teil davon war bereits öffentlich. Der KAI Scheduler steht seit April 2025 unter der Apache 2.0-Lizenz und wurde als Sandbox-Projekt der Cloud Native Computing Foundation akzeptiert. Neu ist der Rest, insbesondere das GPU-Fractioning und das Quotamanagement, die den kommerziellen Kern des Produkts ausmachten. Laut Berichten von HPCwire und Blockchain.News erfordert die als Community-Produkt im NGC-Katalog von Nvidia verteilte Version keine kostenpflichtige Run:ai-Subscription. Wer einen Service-Level-Agreement benötigt, hat weiterhin Zugang zu einer unterstützten Version, die innerhalb des Unternehmensportfolios verkauft wird.

Die Öffnung erfüllt ein lang gehegtes Versprechen. Laut der israelischen Website Calcalist hatten die Gründer von Run:ai sich verpflichtet, den Code zu öffnen, als der Verkauf an Nvidia abgeschlossen war.

Warum Nvidia auf die Lizenz verzichtet

Das wirtschaftliche Argument ist klar. Der Engpass für Betreiber von KI-Clustern ist selten das Fehlen von installierten GPUs: es ist deren Leerlaufzeit. Eine im Rechenzentrum vollständig einer kleinen Experimentgruppe zugewiesene GPU bleibt die meiste Zeit inaktiv, und das Fractioning, das Gruppenscheduling und die Quoten pro Team existieren genau, um diese Auslastungsrate zu erhöhen. Durch die Bereitstellung einer Schicht, die jede Karte besser nutzt, reduziert Nvidia die Hürden für mehr Unternehmen, ihre eigenen Cluster aufzubauen, und alle diese Unternehmen kaufen weiterhin die Hardware.

Das Gegenargument ist ebenso konkret. Der Fractioning-Operator wird von Nvidia selbst als CUDA-nativ beschrieben, was bedeutet, dass das wertvollste Stück des Pakets den Kunden an die Hardware des Unternehmens bindet. Open Source bedeutet hier nicht, dass es einen neutralen Anbieter gibt. Ein Team, das AMD-Beschleuniger oder eigene Cloud-Chips wie Googles TPUs verwendet, profitiert von der Ankündigung kaum, abgesehen vom Scheduler, der bereits verfügbar war.

Wer profitiert

Die unmittelbarste Auswirkung betrifft die sogenannten Neoclouds, Anbieter, die sich auf das Mieten von GPU-Kapazitäten spezialisiert haben. Die in Amsterdam ansässige Nebius hat bereits die Bereitstellung der offenen Run:ai-Version in ihrem Anwendungskatalog angekündigt. Die amerikanischen Unternehmen Crusoe, Rafay und Saturn Cloud gehören ebenfalls zu den Partnern, die die Plattform integrieren, und das spanische Unternehmen OpenNebula Systems ist auf der von Nvidia veröffentlichten Liste. Für diese Anbieter, die zuvor ein proprietäres Werkzeug weiterverkauften oder mit diesem konkurrierten, eliminiert die Öffnung Lizenzkosten und eine kommerzielle Abhängigkeit.

In Europa korrespondiert dieser Schritt mit der Nachfrage nach sovereign Clouds. Regierungen und Unternehmen, die eigene Cluster betreiben möchten, ohne von einem amerikanischen Hyperscaler abhängig zu sein, erhalten Zugang zu einer ausgereiften Orchestrierungsschicht, ohne mit Nvidia lizenziert verhandeln zu müssen, obwohl sie weiterhin an die GPUs des Unternehmens gebunden sind.

Für Integratoren und Beratungsfirmen, die KI-Plattformen für Unternehmenskunden aufbauen, ändert sich das Geschäftsangebot. Projekte, die zuvor die Lizenz von Run:ai im Budget beinhalteten, können diese nun als kostenloses Element behandeln, wobei der Wert sich auf Integration, Betrieb und Support verschiebt. Banken, Versicherungen und Regierungen, die eigene Cluster in Indien, Brasilien oder dem Nahen Osten betreiben, haben nun eine alternative, kostenfreie Softwarelösung, um GPUs zwischen Teams zu teilen.

Was noch unklar ist

Nvidia hat in dem veröffentlichten Material nicht detailliert, welche Lizenz die gesamte Plattform neben der Apache 2.0-Lizenz des Schedulers abdeckt, und der Unterschied ist wichtig: Eine permissive Lizenz erlaubt es Wettbewerbern, den Code für andere Beschleuniger anzupassen, während eine restriktivere dies einschränkt. Es ist auch unklar, auf wie viel Umsatz von Run:ai das Unternehmen verzichtet, da Nvidia noch nie die Einnahmen der Einheit separat veröffentlicht hat. Das Signal für die Kunden ist, dass der Wettbewerb zwischen Anbietern von KI-Infrastruktur sich vom Orchestrierungssoftwarebereich, der nun kostenlos ist, auf die Hardware- und Managed-Service-Schicht verschoben hat.