Schwerpunkte

Künstliche Intelligenz

Woran es hapert und was helfen kann

12. Oktober 2020, 16:32 Uhr   |  Iris Stroh


Fortsetzung des Artikels von Teil 1 .

Blaize

Blaize bietet eine Softwareentwicklungs-Suite an, die sowohl Entwicklungswerkzeuge für Programmierer als auch das Code-freie Tool „AI Studio“ für Domänenexperten enthält, die keine Programmierer sind. Terrill: »Die Tools werden seit über zwei Jahren bei Kunden eingesetzt und sind daher gut ausgereift.« Als weiteres wichtiges Tool weist er auf Netdeploy hin. Neuronale Netzwerke, die typischerweise in ML-Frameworks wie Tensorflow oder Pytorch trainiert werden, müssen optimiert werden, damit sie effizient auf der Ziel-Hardware laufen. Das Blaize NetDeploy Tool automatisiert den Optimierungs- und Komprimierungsprozess durch Techniken wie zum Beispiel Quantisierung oder Pruning und findet laut Terrill die richtige Balance zwischen Hardware-Performance und Genauigkeit.

Tansini_Stefano
© Renesas

Stefano Tansini, Renesas Electronics: »Für die RZ/V2M-ICs und den KI-Beschleuniger „DRP-AI“ bieten wir ein spezielles Tool zur Konvertierung und Implementierung neuronaler Netze an.«

NXP Semiconductors

eIQ ist die Entwicklungsumgebung von NXP für ML-Software. Das heutige eIQ ermöglicht die optimierte Nutzung von Open-Source-Inferenzmaschinen wie TensorFlow Lite und Glow NN Compiler. Levy: »Und wenn ich ‚optimiert‘ sage, dann meine ich das sowohl in Bezug auf Benutzerfreundlichkeit als auch auf Leistung.« Mit dem Glow NN Compiler für die i.MX-RT-Produkte könnten Entwickler im Vergleich zu beispielsweise TensorFlow Lite eine deutlich höhere Leistung und geringeren Speicherbedarf erreichen, Levy spricht von einem Faktor 2 bis 3. Darüber hinaus hat NXP pyeIQ auf den Markt gebracht, mit dem Entwickler ihre Demos und Anwendungen mit einem einzigen Befehl unter Verwendung des Python-Paketmanagers installieren können. Levy: »Dies ist eine erhebliche Verbesserung gegenüber dem aktuellen Szenario, das Yocto oder kundenspezifische Aufbauten braucht.« Für die i.MX-RT-Crossover-Prozessoren ist die ML-Unterstützung direkt in das MCUXpresso-SDK eingebunden, sodass die Entwickler laut Levy ihre ML-Projekte in wenigen, einfachen Schritten zum Laufen bringen können.

Renesas Electronics

Renesas stellt ebenfalls Software Tools zur Portierung von PC-basierten Netzwerken in die dedizierten HW-Beschleuniger von Renesas zur Verfügung. »Die Tools bieten auch die Möglichkeit, den entsprechenden Stromverbrauch, die Leistung, den On-Chip-Betrieb und andere Elemente zu bewerten«, so Pinton. Darüber hinaus gibt es für alle MPUs Evaluation Boards, und Tansini fügt hinzu, dass das Software-Paket auf CIP-Linux basiert, »einer auf den industriellen Einsatz spezialisierten Linux-Distribution mit superlangem Support.« Darüber hinaus steht von Renesas auch ein KI-BSP zur Verfügung, das das Mapping der gängigsten KI-Frameworks vereinfacht.

Levy_Markus
© NXP

Markus Levy, NXP Semiconductors: »Eine Umfrage unter 1900 Kunden hat ergeben, dass die größten Hürden bei der Nutzung von Maschinenlernen der Zeitaufwand, die Verfügbarkeit von sachkundigen Ressourcen und die Performance sind.«

STMicroelectronics

Valesani betont, dass Software Tools vielleicht sogar das Wichtigste beim Thema KI sind, noch vor der eigentlichen Ziel-Hardware. Denn für Entwickler seien Software Tools entscheidend, die es ihnen ermöglichen, Inferenzmodelle aus gängigen KI-Entwicklungsumgebungen wie Tensorflow, Pytorch, Caffe oder aus Standardformaten wie ONNX zu importieren und in ein ausführbares Programm zu konvertieren, das den Speicher und den Befehlssatz (und Beschleuniger, falls verfügbar) der Ziel-Hardware optimal nutzt.

ST bietet diverse Referenz-Entwicklungsplattformen sowohl für industrielle als auch für Automotive-MCUs und MPUs an, wie zum Beispiel STM32 Cube.AI und SPC5-Studio-AI, ein KI-Plug-in für die SPC5-Studio-Entwicklungsumgebung für Automotive-MCUs. »Beide Tools sind kostenlos und dienen dem Import und der Optimierung von Inferenzen auf die Ziel-Hardware.« Die Entwicklungsumgebungen bieten dem Entwickler die Möglichkeit, zwischen den Zielprozessoren zu navigieren, »um nicht für unnötigen Speicher oder Komplexität zu bezahlen«, so Valesani weiter. Darüber hinaus können Entwickler mit diesen Tools ihre Anwendung auf eine bestimmte MCU oder MPU zuschneiden. Außerdem stehen viele herunterladbare, kostenlose, sofort einsatzbereite Open-Source-Beispiele zur Verfügung. Mit ihnen wird gezeigt, wie Inferenzierungen entwickelt werden können. Es wird gezeigt, wie proprietäre Datensätze erstellt oder verwendet werden und wie das Modell unter Verwendung der vom Benutzer bevorzugten Entwicklungsumgebung generiert wird. Es wird außerdem gezeigt, wie das Modell dann automatisch auf die Ziel-Hardware importiert und optimiert wird.

Gleichzeitig wird ein Profiling hinsichtlich Kosten-, Speicher- und Verarbeitungsanforderungen durchgeführt. Valesani abschließend: »Wir arbeiten mit vielen Partnern in diesem Bereich zusammen, die zum Beispiel dabei helfen können, kundenspezifische Datensätze zu erstellen oder kundenspezifische Daten mit einem Label zu versehen. Für manche Anwendungsfälle wie beispielsweise die Anomalie-Erkennung stehen von Partnerunternehmen fertige Libraries zur Verfügung, sodass eine KI-Expertise unnötig ist. Und seitens der Partner stehen GUI-Tools innerhalb der STM32-Tools zur Verfügung, mit denen Firmware für die STM32-Familie erzeugt werden kann, sodass Entwickler mit wenig KI-Kenntnissen trotzdem schnell ein PoC durchführen können.«

Seite 2 von 2

1. Woran es hapert und was helfen kann
2. Blaize

Auf Facebook teilenAuf Twitter teilenAuf Linkedin teilenVia Mail teilen

Das könnte Sie auch interessieren

Syntiant bringt KI in Edge-Geräte
Wie lässt sich mit KI Geld verdienen?
Äußerst genügsamer analoger KI-Chip
Mit KI schneller zahlen
KI wird allgegenwärtig
KI viel seltener genutzt als gedacht
Neuronale-Netzwerk-Beschleuniger
KI trainieren ohne den Datenschutz zu verletzen
Von unter 1 MOPS bis hin zu 1000 TOPS

Verwandte Artikel

NXP Semiconductors Germany, Renesas Electronics Europe GmbH, INFINEON Technologies AG Neubiberg, XILINX GmbH, STMicroelectronics GmbH