Elektroniknet Logo

Neue Hardware und Tools

Höchste KI-Leistung pro Watt und ML für Vivado

Versal AI Edge ACAP
Neue Versal AI Edge ACAP Serie ermöglicht AI-fähige Intelligenz für Automotive-, Robotik-, Healthcare- und Aerospace-Applikationen.
© Xilinx/WEKA Fachmedien

Mit der Versal AI Edge ACAP Serie zielt Xilinx auf Edge-Computing-Anwendungen in Automotive-, Robotik-, Healthcare- und Aerospace-Applikationen. Die neue Vivado ML Editions wiederum nutzt ML-Algorithmen zur Optimierung von Designs.

Im Edge soll es ein »Hypergrowth« geben. Rehan Tahir, Senior Product Line Manager von Xilinx, zitiert Gartners Begründung, dass mithilfe von »ۚEdge Computing die Schwächen der Cloud gelöst werden«. Das Marktforschungsunternehmen Omdia wiederum geht in seiner Marktstudie davon aus, dass sich die Entwicklung von Chipsätzen für KI-Anwendungen im Edge deutlich mehr lohnen, als die Entwicklung für den Datacenter-Bereich: Die Marktforscher erwarten, dass der Umsatz mit Edge-KI-Chipsätzen im Jahr 2025 65 Mrd. Dollar betragen soll, drei Mal so viel wie der Umsatz mit Datacenter-Chips.

Genau auf diese Anwendungen zielt Xilinx mit seiner neuen Familie Versal ACAPs AI Edge, die mittlerweile vierte Serie innerhalb des Versal-Produktportfolios (Versal AI Core, Versal Premium, Versal Prime). Laut Tahir zeichnen sich die neuen programmierbaren Komponenten durch eine 4-fache KI-Leistung pro Watt im Vergleich zu GPUs (Jetson AGX Xavier, ResNet50, 224x224). Tahir: »Im Vergleich zu den Zynq UltraScale+ MPSoCs verfügen die Versal AI Edge Komponenten über die 10-fache Rechendichte und das bei dem gleichzeitig höchsten Level an Safety und Security.« Und weiter: »Damit bieten wir das weltweit skalierfähigste und flexibelste Portfolio für Edge und Endpunkte.«

Wie alle Versal-Komponenten verfügen auch die neuen Versal AI Edge-Bausteine über diverse skalare Engines (Applikationsprozessor: Dual-Core-Cortex-A72, Echtzeitprozessor: Dual-Core-Cores-R5F), die so genannten intelligenten Engines (AI Engines, DSP-Engines), und die »adaptable engines«, sprich die Logik-Fabric. Dazu kommen noch I/Os (PCIe Gen4, DDR, Ethernet, MIPI, LVDS und GPIOs), plus einem programmierbaren NoC (Network on Chip).

Für Versal AI Edge wurden die integrierten AI-Engines optimiert, und zwar um ML-Aufgaben (ML: Maschinenlernen) im Edge besser ausführen zu können. Die bisherigen AI-Engines bestehen aus einem zweidimensionalen Array mit einer Vielzahl von AI-Engine-Kacheln. Jede AI-Engine-Kachel besteht aus einem VLIW-Vektorprozessor und Datenspeicher und ist für die ML/DSP-Workloads gleichermaßen ausgelegt, einschließlich Inferenzierung, Beamforming, die Verarbeitung von Radardaten oder HPC-Anwendungen. Dazu unterstützen sie folgende Datenformate nativ: INT8/16 Fixed Point, CINT16, CINT32 Complex Fixed Point und FP32 Floating Data Point. Für die Implementierung von Filtern sind noch 128 INT8-MACs pro Kachel integriert.

Die AI Engine-ML wiederum sind für die Verarbeitung von CNN- RNN-, und MLP-Netzen ausgelegt. Dazu wurde sowohl der Rechenkern in Hinblick auf KI-Anwendungen optimiert (512 INT4 MACs pro Kachel und 256 INT8 MACs pro Kachel) als auch die Speicherarchitektur verbessert. So wurde der lokale Datenspeicher auf 64 KB vergrößert und neue Speicherkacheln (512 kB, über das gesamte AIE-Array sind damit bis zu 38 MB integriert) für einen schnelleren Speicherzugriff integriert. Darüber hinaus unterstützen die neuen AI Engine-ML die INT4 und BFLOAT16-Datenformate nativ. Tahir: »Im Vergleich zur AI Engine liefert AI Engine-ML die zweifache INT8-Rechenleistung, die vierfache INT4-Rechleistung und die 16-fache BLFOAT16-Rechenleistung, also insgesamt eine um den Faktor 4 erhöhte ML-Leistung und das bei der Hälfte der Latenzzeit.« Manche Versal AI Edge-Bausteine sind außerdem zusätzlich mit Accelerator-RAM (4 MB) ausgestattet. »Diese Verbesserungen führen in der Summe dazu, dass die Versal AI Edge-Komponenten im Vergleich zu GPUs auf eine um den maximalen Faktor 4 erhöhte Rechenleistung pro Watt kommen«, erklärt Tahir weiter.

Höhere Rechendichte

KI-fähige, automatisierte Systeme erfordern eine hohe Rechendichte, die ganze Anwendungen vom Sensor über KI bis zur Echtzeitsteuerung beschleunigen kann. Versal AI Edge-Bausteine erreichen dies durch eine 10-fache Rechendichte im Vergleich zu Zynq UltraScale+ MPSoCs und ermöglichen intelligentere autonome Systeme. Darüber hinaus unterstützen Versal AI Edge-Bausteine mehrere Sicherheitsstandards in den Märkten Industrie (IEC 61508), Luftfahrt (DO-254/178) und Automotive (ISO 26262), in denen Hersteller ASIL C für zufällige Hardware-Integrität und ASIL D für systematische Integrität realisieren müssen.

Tahir: »Die Versal AI Edge-Serie nutzt die 7-nm-Versal-Architektur und miniaturisiert sie für KI-Rechenleistung bei niedriger Latenz, und das alles bei einer Leistungsaufnahme von nur 6 Watt und mit den in Edge-Anwendungen erforderlichen Sicherheitsmaßnahmen.« Als heterogene Plattform mit verschiedenen Prozessoren passt die Versal AI Edge-Serie die Engine an den Algorithmus an, mit Scalar Engines für eingebettete Berechnungen, Adaptable Engines für Sensorfusion und Hardware-Anpassungsfähigkeit und Intelligent Engines für KI-Inferenz, die bis zu 479 (INT4) TOPS skaliert - unerreicht von ASSPs und GPUs, die auf Edge-Anwendungen abzielen - und für fortschrittliche Signalverarbeitungs-Workloads für Vision, Radar, LiDAR und Software Defined Radio.

Die Versal AI Edge ACAPs sind sowohl für Hardware- als auch für Software-Entwickler geeignet und bieten einen Design-Einstiegspunkt für jeden Entwickler, darunter Vivado Design-Tools für Hardware-Entwickler, die Vitis Unified Software-Plattform für Software-Entwickler, Vitis AI für Datenwissenschaftler sowie domänenspezifische Betriebssysteme, Frameworks und Beschleunigungsbibliotheken für die Zielanwendungen der Plattform.

Verfügbarkeit

Die Versal AI Edge Serie Design-Dokumentation und Support ist für Early-Access Kunden bereits verfügbar. Die Auslieferungen sind für das erste Halbjahr 2022 vorgesehen, einschließlich einer Roadmap für Automotive- und Defense-grade Bausteine.

Marktspezifische Application-Stacks und Anwendungsbeispiele für Versal AI Edge finden Sie in der Galerie.

Relevante Anbieter

Xilinx Versal AI Edge

Application-Stacks
© Xilinx
Versal AI Edge ACAP in ADAS- und AD-Anwendungen
© Xilinx
Versal AI Edge ACAPs für Robotikanwendungen
© Xilinx

Alle Bilder anzeigen (4)


  1. Höchste KI-Leistung pro Watt und ML für Vivado
  2. Vivado wird »sauschlau«

Das könnte Sie auch interessieren

Verwandte Artikel

XILINX GmbH