Um die DGX-Fähigkeiten für Startups und Unternehmen zu beschleunigen, die sich mit dem Aufbau neuer Produkte und der Entwicklung von KI-Strategien befassen, stellt Huang »Nvidia DGX Cloud« vor. Mithilfe von Partnerschaften mit Microsoft Azure, Google Cloud und Oracle Cloud Infrastructure werden die Nvidia-DGX-KI-Supercomputer »für jedes Unternehmen über einen Browser« bereitstellt. DGX Cloud ist für die Ausführung von Nvidia AI Enterprise optimiert, einer Beschleunigungssoftware-Suite für die durchgängige Entwicklung und Bereitstellung von KI.
Generative KI
Huang stellt außerdem »Nvidia AI Foundations« vor, eine Familie von Cloud-Diensten. Sie soll Entwicklern dabei helfen, kundenspezifische LLMs (große Sprachmodelle) oder generative KI mit eigenen Daten zu erstellen, zu verbessern oder zu betreiben. Zu den AI-Foundations-Services gehören Nvidia NeMo für kundenspezifische Text-zu-Text-Modelle und Picasso, ein Service zur Erstellung von visuellen Sprachmodellen. Darüber hinaus umfasst die Familie auch BioNeMo; mit diesem KI-Service zielt Nvidia auf die Arzneimittelentwicklung.
Darüber hinaus kündigte Huang auch vier Inferenzplattformen, die die komplette Inferenzsoftware von Nvidia mit den neuesten Nvidia-Ada, Hopper- und Grace-Hopper-Prozessoren – einschließlich Nvidia-L4-Tensor-Core-GPU und Nvidia-H100-NVL-GPU. Dabei handelt es sich um die Plattformen »Nvidia L4« für KI-Video, »Nvidia L40« für die Bilderzeugung, »Nvidia H100 NVL« für das Deployment von großen Sprachmodellen und »Nvidia Grace Hopper« für Empfehlungsmodelle.
Omniverse über Microsoft
Huang erklärte außerdem, dass Nvidia mit Microsoft zusammenarbeitet: »Microsoft und Nvidia bringen Omniverse zu Hunderten von Millionen Microsoft-365- und Azure-Nutzern.« Er stellte außerdem neue Nvidia-OVX-Server und eine neue Generation von Workstations vor, die von Nvidia-RTX-Ada-Generation-GPUs und Intels neuesten CPUs angetrieben werden, die für Nvidia Omniverse optimiert sind.
In Hinblick auf Omniverse verwies Huang auch noch auf die Rolle, die Omniverse im Automobilbereich spielt, denn die Anzahl der Automobilhersteller, die Omniverse nutzen, steigt. Laut seiner Aussage wird Omniverse beispielsweise von Lotus für die virtuelle Montage von Schweißstationen eingesetzt. Mercedes-Benz wiederum nutzt Omniverse für den Aufbau, die Optimierung und die Planung von Montagelinien für neue Modelle.
Rimac und Lucid Motors setzen auf Omniverse, um aus aktuellen Konstruktionsdaten digitale Läden zu erstellen, die ihre Autos originalgetreu darstellen. Huang: »In Zusammenarbeit mit Idealworks verwendet BMW Isaac Sim in Omniverse, um synthetische Daten und Szenarien für das Training von Fabrikrobotern zu generieren. Und BMW nutzt Omniverse zur Planung von Abläufen in Fabriken auf der ganzen Welt und baut eine neue Fabrik für Elektrofahrzeuge komplett in Omniverse, zwei Jahre vor deren Eröffnung.« Außerdem hat Nvidia während der GTC bekannt gegeben, dass BYD die zentrale Rechenplattform Nvidia Drive Orin in einer breiteren Palette seiner NEVs einsetzen wird.
Halbleiterfertigung
Nvidia ist bereits in vielen Branchen aktiv; jetzt präsentiert das Unternehmen auch seine Aktivitäten in der Halbleiterfertigung, und zwar mit seiner neuen Software-Bibliothek Nvidia cuLitho. »Die Halbleiterindustrie ist die Grundlage für fast jede andere Industrie der Welt. Mit der Einführung von cuLitho durch Nvidia und die Zusammenarbeit mit unseren Partnern TSMC, ASML und Synopsys können wir den Durchsatz erhöhen, den CO2-Ausstoß reduzieren und die Grundlage für 2 nm und darüber hinaus schaffen«, so Huang. cuLitho läuft auf GPUs und bietet laut seiner Aussage einen bis zu 40-fachen Leistungssprung gegenüber aktuellen Ansätzen in der Lithografie, die derzeit aufgrund des enormen Rechenaufwands jedes Jahr »mehrere Milliarden CPU-Stunden verbrauchen«, erklärt Huang.
Laut seiner Aussage können 500 Nvidia-DGX-H100-Systeme die Arbeit von 40.000 CPU-Systemen leisten und alle Teile des Lithografieprozesses parallel ausführen, was den Energiebedarf und mögliche Umweltauswirkungen reduziert. So könnten Fabriken in naher Zukunft mithilfe von cuLitho jeden Tag drei- bis fünfmal mehr Fotomasken herstellen und dabei neunmal weniger Energie verbrauchen als heute. Huang: »Eine Fotomaske, für die bisher zwei Wochen benötigt wurden, kann nun über Nacht verarbeitet werden.« Langfristig glaubt Huang, dass cuLitho bessere Designregeln, höhere Dichte, höhere Erträge und eine KI-gestützte Lithografie ermöglichen wird.