Supermicro führt das NVIDIA Vera CPU-Rack ein, ein vollständig flüssigkeitsgekühltes System mit 256 Vera CPUs und 22.528 Cores. Das Unternehmen positioniert das Rack für Agentic AI und Reinforcement Learning, wobei die CPUs die Sandbox-Umgebungen von KI-Agenten ausführen. Sie können das Rack eigenständig einsetzen oder mit dem Vera Rubin NVL72 kombinieren.
Das Rack ist die neueste Ergänzung des DCBBS-Portfolios (Data Center Building Block Solutions) von Supermicro. Neben Agentic AI und Reinforcement Learning (RL) nennt das Unternehmen die Datenverarbeitung als Einsatzbereich. Das System ergänzt das Supermicro NVIDIA Vera Rubin NVL72, das das Unternehmen bereits ausliefert, und ist ab sofort verfügbar.
Spezifikationen
Das Rack enthält 256 NVIDIA Vera CPUs mit insgesamt 22.528 Cores und 45.056 Threads. Laut Supermicro unterstützt ein einzelnes Rack bis zu 22.500 gleichzeitige Sandbox-Umgebungen für KI-Agenten. Für Netzwerk und Sicherheit sind NVIDIA BlueField-4 DPUs verbaut. Die Kühlung erfolgt über den DLC-2-Stack von Supermicro für direkte Flüssigkeitskühlung, sodass das gesamte Rack flüssigkeitsgekühlt ist. Wer Luftkühlung bevorzugt, kann innerhalb des Vera-CPU-Portfolios von Supermicro auch auf 1U- und 2U-Systeme zurückgreifen.
Hintergrund der CPU-Nachfrage
Supermicro und NVIDIA begründen die Einführung des Racks mit einer Verschiebung bei KI-Workloads. Bei Agentic AI und RL verlaufen Prozesse nicht mehr linear, sondern verzweigt und häufig zyklisch, mit vielen Zwischenschritten. GPUs generieren Tokens, Code und Queries, während CPU-basierte Sandboxes Aktionen ausführen, Ergebnisse bewerten, Tools betreiben und Workflows orchestrieren. Nach Angaben beider Unternehmen hängt der Fortschritt dadurch zunehmend von der verfügbaren CPU-Kapazität ab.
Chris Marriott, Vice President Enterprise Platforms bei NVIDIA, erklärt, dass die Unterstützung Tausender gleichzeitiger Agenten-Workflows eine neue Klasse hochdichter CPU-Infrastruktur erfordert. Charles Liang, President und CEO von Supermicro, sagt, das Unternehmen reagiere mit der Erweiterung von DCBBS auf die sich wandelnden Anforderungen an Rechenzentren. Laut Liang will Supermicro gemeinsam mit NVIDIA die Implementierungszeit durch eine gemeinsame Architektur verkürzen.
MGX-Design und 800-VDC-Stromversorgung
Das Rack basiert auf der dritten Generation von NVIDIA MGX, einer modularen Referenzarchitektur, und teilt damit die Infrastrukturarchitektur mit dem Vera Rubin NVL72. Supermicro zufolge unterstützt dies eine standardisierte Implementierung. Bei der Stromversorgung wählen Sie zwischen klassischer Wechselstromzuführung zum Rack und einem 800-VDC-Sidecar-Stromversorgungsrack. Bei der zweiten Option fangen Battery Backup Units (BBUs) Stromausfälle anstelle einer konventionellen USV ab. Das Unternehmen erwartet, dass dies Stellfläche freisetzt, die Effizienz der Stromwandlung verbessern kann und sowohl CapEx als auch OpEx senkt.
Kontrolle über KI-Agenten
Das Rack unterstützt die NVIDIA OpenShell Reference Architecture. OpenShell läuft auf den Vera CPUs und wendet zur Laufzeit Richtlinien und Kontrollen nach dem Prinzip minimaler Zugriffsrechte auf KI-Agenten an. Zusätzlich läuft NVIDIA Sentry als Out-of-Band-Monitor auf den BlueField-4 DPUs. Laut Supermicro setzt Sentry Richtlinien durch, liefert Telemetriedaten und kann einen Agenten innerhalb von Millisekunden unter Quarantäne stellen, wenn dieser die zulässigen Grenzen überschreitet. Da diese Kontrolle auf der DPU stattfindet, verbraucht sie nach Angaben des Unternehmens keine CPU-Kapazität des Hostsystems.
Kombination mit NVL72 oder eigenständiger Einsatz
Für Kunden, die auf den DCBBS Blueprints für Vera Rubin NVL72 aufbauen, bietet Supermicro ein optionales Design, das beide Racktypen kombiniert. Dieses Design umfasst eine festgelegte Netzwerktopologie auf Basis von NVIDIA Spectrum-X Ethernet, Hot-Aisle-Containment, redundante In-Row Coolant Distribution Units (CDUs) und Rear Door Heat Exchanger.
Als eigenständige CPU-Plattform nennt Supermicro Anwendungen wie Agenten-Orchestrierung und Sandboxing, Datenbankoperationen, Cluster-Management, Job-Scheduling mit Slurm und Kubernetes, Datenanalyse sowie groß angelegte Software-Build-Pipelines. In beiden Szenarien begleitet ein einziges Team von Supermicro das gesamte Projekt, von der Standortanalyse und dem Design über die L11- und L12-Integration, Tests und die Implementierung vor Ort bis hin zum laufenden Support.
Dieser Artikel ist ursprünglich auf Niederländisch bei MSP Business erschienen. Zum Originalartikel →
