Künstliche Intelligenz
Machine Learning auf Edge-Geräten
Fortsetzung des Artikels von Teil 2
MLOps mit TDK Qeexo AutoML
TDK Qeexo AutoML [8] wurde entwickelt, um das maschinelle Lernen einem breiteren Benutzerkreis zugänglich zu machen, auch Entwicklern, die keine tiefgreifenden ML-Kenntnisse haben. Sobald ein Trainingsdatensatz mit der Zielhardware unter Verwendung des SDS-Recorders erfasst wurde, kann er in das CSV-Format konvertiert und gelabelt werden. Diese Daten werden dann in das TDK-Qeexo-AutoML-Cloud-System importiert (Bild 7).
Jobangebote+ passend zum Thema
Mit der Datensegmentierungsfunktion können aufgezeichnete Ereignisse, die im Datenvisualisierungseditor angezeigt werden, lokalisiert, ausgeschnitten und gelabelt werden, um sie als Trainings- oder Testdaten zu verwenden (Bild 8). TDK Qeexo AutoML führt den Entwickler durch den Trainingsprozess und bietet verschiedene automatische und manuelle Optionen für das Klassifikationsintervall und die -länge, Modellalgorithmen und Optionen. Das Cloud-basierte Training läuft dann vollständig automatisiert ab und generiert eine ML-Laufzeitbibliothek, die für Cortex-M-Prozessoren optimiert ist.
Der Trainingsbericht zeigt relevante Informationen zum Modellverhalten, einschließlich des ausgewählten ML-Modells (der Typ des maschinellen Lernmodells), die Genauigkeit der Kreuzvalidierung, die Latenz, Größe und eine zusätzliche Leistungszusammenfassung. Verschiedene grafische Ansichten helfen bei der statistischen Visualisierung mit der Ergebnisvalidierung (Bild 9).
Die von Qeexo AutoML generierte ML-Laufzeitbibliothek wird dann in das endgültige Projekt eingebunden und bietet dem Nutzer zwei Funktionen: QxClassify zum Ausführen des eigentlichen Modells und QxFillSensorData, um Sensordaten in das Modell einzuspeisen.
Optimierte Frameworks und Bibliotheken
ML-Algorithen ermöglichen Anwendungen, die vorher unmöglich waren – mit modernen Software-Frameworks wie TensorFlow Lite sogar auf kleinen Cortex-M- Mikrocontrollern. Arm bietet eine breite Palette von Prozessoren, die für eine Vielzahl von KI-Anwendungsfällen optimiert sind. Die neuen Cortex-M55- und Cortex- M85-Prozessoren enthalten den Helium-Vektorbefehlssatz, zum Beispiel für innovative Wearables wie Fitness-Tracker oder Smartwatches. Diese Technologie ist auch Basis für viele medizinische und industrielle Anwendungen.
Neue Werkzeuge wie die Arm Virtual Hardware (AVH) vereinfachen die Bewertung von ML-Modellen und die Validierung von Algorithmen. Das SDS-Framework erleichtert die Erfassung von Daten aus der realen Welt über bereits im Einsatz befindliche Geräte. Mit den virtuellen Streaming-Schnittstellen von AVH können diese aufgezeichneten Daten an MLOps- und DevOps-Systeme übergeben werden, um Trainingsergebnisse zu verfizieren.
Viele Basisbibliotheken und ML-Modelle sind bereits für Arm-Prozessoren optimiert. Arm-Ökosystempartner wie TDK Qeexo, Edge Impuls oder DSP Concept machen ML-Technologie auch für Entwickler zugänglich, die keine Vorkenntnisse über maschinelles Lernen haben. Diese Unternehmen unterstützen komplette MLOps-Entwicklungsabläufe einschließlich der Modellauswahl und eines Low-Code-Ansatzes, der keine domänenspezifischen ML-Kenntnisse erfordert.
Referenzen
[1] Arm Cortex-M Series Processors. https://developer.arm.com/ip-products/processors/ cortex-m
[2] Arm Helium technology for Arm Cortex-M processor series. https://developer.arm.com/Architectures/Helium
[3] Arm Ethos-U Series Processors. https://developer.arm.com/ip-products/processors/machine-learning/arm-ethos-u
[4] How to trick a neural network. https://codewords.recurse.com/issues/five/why-do-neural-networks-think-a-panda-is-a-vulture
[5] TensorFlow Lite for Microcontrollers. https://www.tensorflow.org/lite/microcontrollers
[6] Synchronous Data Stream (SDS) Framework. https://github.com/Arm-Software/SDS-Framework
[7] Embedded World Conference 2022, Effective DevOps for Embedded and IoT/ML Endpoint Devices
[8] Enabling the New Era of Machine Learning at the Edge. https://qeexo.com/
[9] Solutions for Artificial Intelligence. https://www.arm.com/solutions/artificial-intelligence
[10] Keil, R. und Hertel M.: ML on Edge Devices. embedded world Conference Proceedings 2023, S. 649–655 Proceedings, Nürnberg, 2023. https://shop.weka-business-communication.com/ --> Sonderpublikationen
Die Autoren
Reinhard Keil
ist Geschäftsführer von Arm Germany und Senior Director für Embedded Technology bei Arm. In seiner Verantwortlichkeit ist die Definition und Strategie für Tools und CMSIS. Er gründete zusammen mit seinem Bruder die Keil Elektronik GmbH und ist Co-Entwickler des Keil-C51-Compilers, der die Grundlage für den weltweiten Erfolg von Keil Software ist
Matthias Hertel
bringt in seine Position als Senior Manager Embedded Tools Integration bei Arm mehr als zwei Jahrzehnte Erfahrung in der Arbeit mit Embedded-Systemen ein. Sein Fokus liegt auf der Integration neuer Technologien einschließlich künstlicher Intelligenz (KI) und Internet der Dinge (IoT) in Softwareentwicklungswerkzeuge für Arm-Cortex-M-Mikrocontrollersysteme
- Machine Learning auf Edge-Geräten
- Entwicklungsprozess im MLOps-Workflow
- MLOps mit TDK Qeexo AutoML
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
