Nvidia Kleinster KI-Supercomputer am Edge

Kleinster Supercomputer am Edge: der »Jetson Xavier NX« von Nvidia.
Kleinster Supercomputer am Edge: der »Jetson Xavier NX« von Nvidia.

Weniger als die Fläche einer Kreditkarte nimmt Nvidias neuer KI-Edge-Computer »Jetson Xavier NX« ein und liefert bei 15 W Leistungsaufnahme bis zu 21 TOPS an Rechenleistung.

Die im kalifornischen Santa Clara ansässige Nvidia hat ihre Jetson-Plattform um den »kleinsten KI-Supercomputer der Welt« erweitert. Der neue Rechenbolide »Jetson Xavier NX« basiert auf der vom Flaggschiff »Jetson AGX Xavier« bekannten GPU-Architektur (Graphics Processor Unit) »Volta« und liefert bei einer Leistungsaufnahme von 15 W eine Rechenleistung bis zu 21 TOPS. Sollten 14 TOPS ausreichen, lässt sich der KI-Prozessor (Künstliche Intelligenz) auch mit 10 W betreiben. Der eigentliche Prozessor integriert 384 CUDA- und 48 Tensor-Cores sowie 2 NVDLAs (Nvidia Deep Learning Accelerators) und findet auf einem kompakten Modul Platz, das nur 70 x 45 mm2 misst.
Als CPU kommt ein 6-Kern Carmel Arm-Prozessor (64 bit) zum Einsatz mit 2 Mbyte L2- und 4 Mbyte L3-Cache. Auf den Arbeitsspeicher mit 8 Gbyte an 128-bit-LPDDR4x-DRAMs kann der Prozessor mit einer Datenrate von 51,2 Gbyte/s zugreifen. Der nichtflüchtige Speicher in Form einer eMMC beträgt 8 Gbyte. Das Modul bietet einen 260-Pin-Edge-Connector mit Gigabit-Ethernet-Schnittstelle sowie eine Vielzahl von IOs, von High-Speed-CSI und PCIe bis hin zu Low-Speed-I2C und GPIOs zur Außenwelt. Als Betriebssystem wird Ubuntu-Linux unterstützt. Für Unternehmen, die bereits Erfahrungen mit Embedded KI-Systemen erworben haben, ist vorteilhaft, dass Jetson Xavier NX auf der gleichen Softwarearchitektur CUDA-X AI wie alle Jetson-Prozessoren aufsetzt. Dies gewährleistet eine schnelle Markteinführung und niedrige Entwicklungskosten.

Bilder: 8

Nvidias »Jetson Xavier NX« im Überblick

Weniger als die Fläche einer Kreditkarte nimmt Nvidias neuer KI-Edge-Computer »Jetson Xavier NX« ein und liefert bei 15 W Leistungsaufnahme bis zu 21 TOPS an Rechenleistung.

Anwendungsspektrum: kompakt, leicht, energiesparend

Als Teil des Ansatzes »einer einzigen Softwarearchitektur« wird Jetson Xavier NX von Nvidias »JetPack Software Development Kit« unterstützt, einem kompletten KI-Software-Stack, der moderne und komplexe KI-Netzwerke, beschleunigte Bibliotheken für Deep Learning sowie Bildverarbeitung, Computergrafik, Multimedia und mehr betreiben kann.
»KI ist zur Basistechnologie für moderne Robotik und Embedded Devices geworden, die die Industrie transformieren werden«, erklärt Deepu Talla, Vice President und General Manager of Edge Computing bei Nvidia. »Viele dieser Geräte, die auf kompakten Abmessungen und niedriger Leistungsaufnahme basieren, ließen es nicht zu, weitere KI-Funktionen hinzuzufügen. Mit dem Jetson Xavier NX können unsere Kunden und Partner die KI-Fähigkeiten drastisch steigern, ohne Größe oder Leistungsaufnahme des Geräts zu erhöhen.«

Typische Einsatzgebiete für die Edge-Computing-Plattform Jetson Xavier NX sind Anwendungen, bei denen Größe, Gewicht, Leistungsaufnahme oder Kosten engen Grenzen unterliegen. Dazu zählen kommerzielle Roboter, Drohnen, intelligente, hochauflösende Sensoren für Fabriken, optische Inspektion, Netzwerk-Videorekorder, tragbare Medizingeräte und andere industrielle IoT-Systeme.
Auf dieses Anwendungsspektrum zielen die eingebauten Video- und Kamera-Funktionen ab. Der NX-Prozessor kann gleichzeitig jeweils zwei Videoströme mit 4K@30 codieren und 4K@60 decodieren sowie die Videodaten von bis zu sechs CSI-Kameras (Camera Serial Interface) oder 36 über virtuelle Kanäle verarbeiten. Insgesamt stehen 12 Lanes (3x4 oder 6x2) für den Standard MIPI CSI-2 zur Verfügung.

KI-Supercomputer für 399 Dollar

Jetson Xavier NX ist das jüngste Mitglied der Jetson-Familie, zu der Jetson Nano, die Jetson AGX Xavier und die Jetson TX2-Serie gehören. Der Jetson Xavier NX ist pinkompatibel mit dem Jetson Nano, so dass gemeinsame Hardware-Designs und solche mit Jetson Nano-Trägerboards und -Systemen auf den Jetson Xavier NX aufgerüstet werden können. Es unterstützt auch alle wichtigen KI-Frameworks, einschließlich TensorFlow, PyTorch, MxNet, Caffe etc.
Das Jetson Xavier NX-Modul wird im März 2020 zum Preis von 399 Dollar über die Nvidia-Vertriebskanäle erhältlich sein. Entwickler können bereits heute mit der Anwendungsentwicklung beginnen, indem sie das Jetson AGX Xavier Developer Kit mit einem Software-Patch zur Emulation von Jetson Xavier NX betreiben.