Die Fähigkeit zur schnellen und energiesparenden Ausführung von KI-Berechnungen stellt für mehrere Branchen und Märkte eine grundlegende Technologie dar. Die Sprachbedienung für die Beleuchtung oder ein Herd, der den Benutzer erkennt, sind smarte Konsumenten-Gadgets, die gleiche Technik läßt sich aber auch für ähnliche Anwendungsfälle in anderen Märkten und Anwendungen nutzen. Künstliche Intelligenz wird daher eher nach ihrer Art des Einsatzes als nach Anwendungen kategorisiert, wie die folgenden Beispiele verdeutlichen:
➔ Präsenzerkennung. Bei einer Türkamera oder einem privaten Überwachungssystem kann die korrekte Personenerkennung Fehlalarme vermeiden oder verringern. Die gleiche Technologie kann jedoch auch den Zaun um eine Fabrik oder die Einzäunung von Robotern auf dem Shopfloor überwachen. In der Gebäudeautomatisierung könnten auf diese Weise Entscheidungen zur Heizungs- oder Lichtsteuerung gefällt werden, im Einzelhandel können damit Laufwege von Kunden analysiert werden.
➔ Objektdetektierung. Denkbar ist im Smarthome-Bereich die Verwendung einer kostengünstigen, gering auflösenden und kompakten Überwachungskamera, die bei Erkennung eines verdächtigen Objekts ein übergeordnetes System mit höherem Stromverbrauch aktiviert. Ausschließlich auf Bewegung reagierende Kameras senden ihren Besitzern nicht selten Bilder von Laub oder streunenden Haustieren, was unnötig Batteriekapazität und Speicherplatz verbraucht. Ein eingebettetes KI-System könnte das Bildmaterial vorfiltern und zunächst prüfen. Das übergeordnete, größere System würde nur dann anspringen, wenn etwa ein Reh oder ein Wildschwein im Garten steht.
➔ Spracherkennung. Über die Erkennung eines größeren Schlüsselwort-Vokabulars steht Geräten via KI sofort ein größeres Verständnis zur Verfügung. Damit können Roboter via Stimme gesteuert, industrielle Steuerungen konfiguriert oder Systeme zur Gebäudeautomation über einfache Befehle bedient werden. Die Handhabung der meisten Geräte in unserer Umgebung könnte deutlich einfacher sein, wenn sie ein paar Dutzend Wörter »verstehen«.
Wer KI-Anwendungen mit dem Referenzbaustein entwickeln möchte, muss zwei Disziplinen beherrscht: Machine Learning und Embedded Engineering. Die Schwierigkeit hierbei ist nicht nur, dass man diese Fähigkeiten selten in einer Person kombiniert antrifft. Außerdem werden verschiedene Tools und Entwicklungsmethoden benötigt (Bild 3).
Was Machine Learning betrifft, unterstützen Anbieter wie Analog Devices meist die Entwicklung mit den heute gängigsten Frameworks, PyTorch und TensorFlow. Es gibt viele Demo-Modelle, damit die Tools so eingerichtet werden können, dass sich die nötigen Modelle für ein ressourcenbeschränktes Gerät korrekt erstellen und trainieren lassen.
Sobald ein Machine-Learning-Entwickler über ein trainiertes Modell mit zufriedenstellender Performance verfügt, kann er ein Synthese-Tool verwenden, um dieses Modell in eine Konfigurationsdatei zu konvertieren, mit der die CNN-Register des MAX78000 zur Ausführung des gewünschten Netzes eingerichtet werden. Zusätzlich wird eine Prüfdatei generiert, und genau hier erfolgt die Übergabe an den Embedded-Ingenieur, der mit dieser Prüfdatei sicherstellen kann, dass bei der Übergabe keine Fehler gemacht wurden.
Es stehen mehrere Hardwareplattformen zur Auswahl. Zum Einen ein vollumfängliches Evaluation Kit, ein kleines, portables Kit im Feather-Format sowie eine Cube Camera als Demo-Plattform. Alle Varianten enthalten kleine Kameras und Audioeingänge, um sowohl Anwendungen der Bild- als auch Audioverarbeitung demonstrieren zu können.
Der vorgestellte KI-Baustein MAX78000 ist eine Hardwareplattform, die den Energieverbrauch von KI-Inferenzen nahezu eliminiert und es damit grundsätzlich ermöglicht, auch kleinere und günstigere Geräte mit Embedded KI auszustatten und ihnen das Hören und Sehen beizubringen. Das reicht zwar noch nicht, um KI zur gleichen Verbreitung zu verhelfen wie dem Mikrocontroller, aber es schafft eine wichtige Grundvoraussetzung: Die Entwicklung geht immer mehr zu kleineren, eingebetteten KI-Lösungen – ganz gleich, wie groß das Energiebudget auch ist. Die Technik steht bereit – mit der Entwicklung von passenden KI-Anwendungen kann jetzt der eigentliche Spaß beginnen.
Der Autor
Kris Ardis
ist Executive Director in der Security, Software & Processors Group bei Analog Devices. Er hält einen Bachelor of Science in Informatik der University of Texas in Austin und begann 1997 als Software- Ingenieur. Er hält zwei US-Patente und beschäftigt sich aktuell v. a. mit Edge Artificial Intelligence Accelerators, Security-Mikrocontrollern und Low-Power-Mikrocontrollern.