Wie KI das IoT umgestaltet
Der Einfluss künstlicher Intelligenz auf das Internet of Things
Fortsetzung des Artikels von Teil 1
Die technischen Herausforderungen
Das mit KI und ML verbesserte IoT bringt viele Vorteile mit sich, aber die Umsetzung der Technik im großen Maßstab ist eine Herausforderung. Viele der heutigen fortschrittlichen ML-Modelle benötigen erhebliche Rechenressourcen und einen hohen Stromverbrauch, um Inferenzen durchzuführen. Dabei werden die ML-Modelle ausgeführt und Entscheidungen auf Basis der eingegebenen Daten getroffen. Viele der heutigen IoT-vernetzten Geräte, die Edge Computing durchführen können, verfügen aber nicht über diese Ressourcen.
Eine Lösung bietet Tiny Machine Learning (TinyML ist ein geschützter Begriff der TinyML Foundation, der zum Synonym für diese Technologie geworden ist). TinyML ist ein Teilbereich von ML, der die Technologie so optimiert, dass sie für batteriebetriebene, MCU-basierte Embedded-Systeme geeignet ist. Mit TinyML können kompakte IoT-Sensoren ML-Aufgaben mit Echtzeit-Reaktionsfähigkeit ausführen.
Das beliebteste und ausgereifteste Ecosystem für die Entwicklung von TinyML ist LiteRT (früher bekannt als TensorFlow Lite) für MCUs (LiteRT Micro). Es wurde speziell für ML in Geräten mit eingeschränkten Ressourcen entwickelt, wobei der Schwerpunkt (wie der Name schon sagt) auf MCUs liegt. LiteRT Micro ist eine Python-basierte Umgebung mit integrierten Bibliotheken und Toolkits für Datenerfassung, Vorverarbeitung, Modellarchitektur, Training, Auswertung, Optimierung und Quantisierung.
Während heutige Funk-SoCs durch Hardware-Optimierung und TinyML ML unterstützen, ohne dass viel Rechenleistung oder dedizierte Beschleuniger erforderlich sind, wird die neue Hardware-Generation von morgen in der Lage sein, weitaus fortschrittlichere ML-Routinen auszuführen. Nordic Semiconductor hat viel in die Forschung investiert, um diese Hardware auf den Markt zu bringen.
Beispiele sind der Dual-Core-nRF5340 von Nordic und der neue Funk-SoC der vierten Generation, der nRF54H20. Er integriert mehrere Arm-Cortex-M33-Prozessoren und RISC-V-Koprozessoren, wobei jeder Prozessor für eine bestimmte Art von Arbeitslast optimiert ist. Die Rechenressourcen des SoC werden durch umfangreichen, nichtflüchtigen Embedded-Speicher (NVM) und RAM unterstützt. Diese Ressourcen machen den nRF54H20 hochleistungsfähig, um fortschrittliche TinyML-Algorithmen zu unterstützen. TinyML stellt der Nordic-Designpartner Edge Impulse bereit.
ML Studio (zusammen mit Edge Impulse entwickelt) ist eine Online-Plattform zum Erstellen von ML-Modellen, die in Nordic-Hardware ausgeführt werden können. Die Plattform bietet die vollständige Tool-Suite zum Sammeln und Beschriften von Daten, zum Entwerfen von ML-Modellen auf der Grundlage vordefinierter DSP- und Inferenzblöcke sowie zum Importieren benutzerdefinierter Modelle aus anderen Quellen. Durch den Zugriff auf den Edge-optimierten neuronalen (EON) Tuner lassen sich die Modelle so abstimmen, dass sie im Prozessor-Target der Wahl so effizient wie möglich ausgeführt werden. Für die Bereitstellung und das Testen bietet ML Studio sowohl Optionen zum Herunterladen von Modellen als vorkompilierte Firmware für alle unterstützten Nordic-DevKits und Nordic-Thingy-IoT-Prototyping-Plattformen als auch gebündelte C++-Bibliotheken zur Integration in benutzerdefinierte Firmware. Die Nutzung von ML Studio ist für eine unbegrenzte Anzahl von Projekten und mit vollem Zugriff auf alle Tools kostenlos.
Mit der SoC-Serie nRF53 und nRF54 hat Nordic die Verarbeitungsleistung und den Stromverbrauch optimiert. Entwickler haben damit sofortigen Zugriff auf die hohe Verarbeitungsleistung und den niedrigen Stromverbrauch, was für die Unterstützung von ML in batteriebetriebenen SoCs erforderlich ist. Nordic stellt außerdem alle Entwicklungstools und Software zur Verfügung, die für den Start von ML-Projekten erforderlich sind.
Dies hat zur Entwicklung von Sensoren wie dem »Atom« des Unternehmens Atomation geführt, der mit dem SoC nRF52840 von Nordic betrieben wird. Der Sensor misst Schwingungen, um festzustellen, ob ein Maschinenmotor stärker vibriert als zuvor, oder die Temperatur, um zu prüfen, ob ein Lager in einer Maschine im Betrieb heißläuft. Er überwacht und verarbeitet Informationen lokal, anstatt einen konstanten Datenstrom an ein zentrales System zurückzusenden. Wenn Schwellenwerte überschritten werden oder Geräte außerhalb der normalen Parameter arbeiten, werden die Daten zur Fernanalyse über eine Bluetooth-LE-Funkverbindung an ein Gateway gesendet.
ML in Aktion
Trotz der technischen Herausforderungen führen Entwickler bereits IoT-Produkte mit ML in den kommerziellen Sektor ein. Ein Beispiel ist das norwegische Unternehmen Sensorita, das eine intelligente Abfallentsorgungslösung anbietet, die auf dem SiP-Mobilfunk-IoT-Modul nRF9160 von Nordic beruht. Um den Füllstand und den Inhalt großer Abfallbehälter zu ermitteln, nutzt das Gerät von Sensorita Radartechnik, die auf Forschungsergebnissen der Norwegian University of Life Sciences fußt.
Abfallentsorger stehen vor Problemen wie Kunden, die Abfallcontainer verschieben und andere Abfälle als vereinbart entsorgen, ohne zu wissen, wie voll der Behälter ist, was sich darin befindet oder wann er abgeholt werden sollte. Dies führt zu Problemen bei der Logistik und Produktionsplanung und zu erhöhten CO2-Emissionen durch unnötige Abholungen.
Sensorita hat das Problem mit einem robusten Sensor mit Radar und GPS gelöst. Der Sensor nimmt stündlich mehrmals Radarbilder vom Inneren des Containers auf, die dann zur Analyse an die Sensorita-Cloud-Plattform gesendet werden. Mithilfe von ML-Algorithmen, die auf Millionen von Radarbildern trainiert wurden, kann der Sensor abschätzen, wie voll der Behälter ist und welche Art von Hauptmaterial er enthält.
Das SiP nRF9160 verwendet Mobilfunk-Standortdaten und GNSS-Trilateration, um den Standort jedes Behälters genau zu erfassen. Es überträgt dann die Sensordaten über sein LTE-M/NB-IoT-Modem an die Sensorita-Cloud-Plattform.
Sensorita optimiert mithilfe von ML auch die Route von Lastwagen, die durch Städte fahren, um die Abfallbehälter zu leeren. Das Ergebnis sind Kraftstoffeinsparungen, weniger Arbeitsstunden und geringere CO2-Emissionen.
Effizientere Kühlschränke, vorausschauende Wartung und optimierte Abfallentsorgung sind wichtig, aber sie sind Nischenanwendungen. Wenn ML im Netzwerk weit verbreitet ist, werden die Ergebnisse durchgreifend sein. Ein Beispiel ist die Auswirkung auf das Gesundheitswesen. Funk-SoCs wie der nRF54H20 von Nordic werden Wearables mit einer Vielzahl von Sensoren zum Beispiel für Herzfrequenz, Herzfrequenzvariabilität (HRV), Temperatur, Atemfrequenz, Blutsauerstoff, Stress, Müdigkeit und andere physiologische Anzeichen unterstützen. Solche Wearables sind nicht nur für Sportbegeisterte vorgesehen, sondern gleichermaßen für Senioren, Erwachsene und Kinder geeignet.
Ausgestattet mit ML und mobilfunkbasierter IoT-Anbindung wird das Wearable zu einem Gerät, das mehrere Vitalparameter gleichzeitig kontinuierlich überwachen kann. Und wenn einige (oder alle) Anzeichen einer Veränderung zeigen, könnte das ML-Modell des Wearables feststellen, ob es sich um einen unbedeutenden Trend oder einen ernsthaften medizinischen Notfall handelt. Eine plötzliche Veränderung des Blutsauerstoffgehalts, der Herzfrequenz, des Blutdrucks und der Atemfrequenz könnte beispielsweise ein Hinweis auf ein bevorstehendes Herzproblem sein. Wenn die Lage ernst ist, könnte das Wearable Ersthelfer benachrichtigen und ihnen noch vor ihrer Ankunft wichtige Daten zur Verfügung stellen.
Ein solches Gerät könnte knappe Gesundheitsbudgets schonen, indem sich die Zahl der Krankenhausbesuche reduzieren und die Versorgung der Menschen optimieren lässt, die sie wirklich benötigen. Das würde weltweit Hunderte Milliarden Dollar einsparen.
Die Möglichkeit, ML in stromsparenden Embedded-Systemen auszuführen, die mit Batterien betrieben werden, wird das IoT verändern. Sie wird das Netzwerk noch intelligenter, leistungsfähiger und flexibler machen. Und sie wird neue Arten von Produkten und Anwendungen hervorbringen, die bisher nicht möglich waren. Eine spannende Zukunft steht uns bevor, die viel näher ist, als wir vielleicht denken.
- Der Einfluss künstlicher Intelligenz auf das Internet of Things
- Die technischen Herausforderungen
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
