Edge-KI in verschiedenen Anwendungen
Embedded-Module als Basis für Edge-KI
Edge-KI in der Verteidigung und vielen anderen Anwendungen erfordert Embedded-Module, die über Prozessoren/SoCs mit leistungsfähiger KI-Verarbeitung verfügen. Entwicklungsingenieure können auf eine zunehmende Zahl von Modulen mit Prozessoren verschiedener Hersteller zurückgreifen.
Die Nachfrage nach der Implementierung von Algorithmen und Modellen der künstlichen Intelligenz (KI) direkt in Edge-Geräten steigt unter Entwicklungsingenieuren stetig an. Der Grund dafür liegt auf der Hand: Der Edge-Ansatz bringt KI-Funktionen näher an die Anwendung heran und ermöglicht so eine schnellere Verarbeitung, kürzere Latenzzeiten und einen verbesserten Datenschutz – und das alles, ohne für die Verarbeitung auf zentrale Cloud-Server angewiesen zu sein. Für Entwickler von Edge-Geräten bietet Advantech entsprechende Computer-on-Modules (CoMs) an, bei Advantech auch AI-on-Modules genannt, die eine geringe thermische Verlustleistung (TDP, Thermal Design Power) aufweisen und SoCs bzw. Module von Herstellern wie Qualcomm, Nvidia, RockChip und NXP umfassen, mit der Option, diese durch KI-Beschleunigungsmodule zu ergänzen.
An erster Stelle: Mission Critical und Verteidigung
Lösungen mit AI-on-Modules werden die nächste Generation batteriebetriebener Anwendungen wie Drohnen und autonome Geräte für die Verteidigungsindustrie ermöglichen. Die neueste KI-Technologie in leistungsstarken SoCs mit integrierter NPU und erweiterten Funktionen für die Connectivity trägt zur Entwicklung eines größeren Funktionsumfangs bei. Die Erstellung und Bereitstellung von KI-Modellen wird von Anfang an durch eine große Auswahl an Tools und vorhandenen Beispielmodellen unterstützt. Die zu erwartende KI-Leistung lässt sich zu Beginn eines Entwicklungszyklus jetzt noch präziser als bisher messen.
Edge-KI der nächsten Generation fungiert als Wegbereiter, der Entwickler dabei unterstützt, die Kernziele dieser anspruchsvollen Branche zu erreichen. Die langen Markteinführungszeiten und die spezifischen Anforderungen der Branche führen dazu, dass Entwicklungsingenieure schon heute vorausschauen und Projekte mit Hardware planen, die es derzeit noch gar nicht gibt. Eine Nutzung der in naher Zukunft verfügbaren, vorkonfigurierten Edge-KI-Module von Advantech liegt daher nahe.
Gewerblicher Einsatz
Diese Perspektive ist allerdings nicht auf die Verteidigungsindustrie beschränkt. In Europa ist eine wachsende Nachfrage nach gewerblichen Anwendungen im Bereich Edge-KI zu verzeichnen. Es gibt viele Branchen, die von der neuen Spitzentechnologie profitieren können. Die neuesten Lösungen von Advantech ermöglichen es Entwicklern, die PoE-Versorgung bereits auf ihren Carrier-Boards zu nutzen. Das Unternehmen konzentriert sich auf sein Produktportfolio im Bereich CoMs und verfügt über lokale Ressourcen und Infrastrukturen, um Ingenieure bei der Entwicklung ihrer Systeme zu unterstützen. Darüber hinaus arbeitet Advantech an der Markteinführung PoE-betriebener, mit KI-Funktionen ausgestatteter Single-Board-Computer, die eine kurze Markteinführungszeit ermöglichen sollen und sich für kleine und mittlere Unternehmen anbieten.
Thomas Kaminski ist Director of Product Sales Management bei Advantech EIoT.
Weitere häufige Anliegen bei kommerziellen Anwendungen sind der Schutz von Daten und die relativ strengen rechtlichen Regulierungen in der EU. In vielen Anwendungen trägt die Edge-basierte Verarbeitung von Bilddaten, bei der nur anonymisierte Daten an den Server zurückgesendet werden, zur Compliance dieser Lösungen bei.
Die TDP gibt die maximale Wärmemenge an, die eine Komponente unter typischen Einsatzbedingungen erzeugen kann. In der Halbleiterindustrie bezeichnet eine niedrige TDP einen Prozessor, der weniger Strom verbraucht und weniger Wärme erzeugt als ein vergleichbares Modell mit höherer TDP. Dadurch können Systementwickler ihren Kunden Lösungen mit geringerem Energieverbrauch für längere Akkulaufzeiten in tragbaren Geräten, geringerer Wärmeabgabe zur Vermeidung aufwendiger Kühlsysteme, geringerer Umweltbelastung und potenziell leiserem Betrieb anbieten.
Entwicklungsingenieure müssen zudem das Format berücksichtigen. Edge-KI-Geräte stoßen hinsichtlich der thermischen Lösung oft an die Grenze des technisch Machbaren. Ein kleines Format ist entscheidend, weil kompakte, energieeffiziente und robuste Geräte benötigt werden, die in verschiedensten Umgebungen und Anwendungen einsetzbar sind. Aber wird es möglich sein, mit OSM- oder SMARC-Modulen effizientere thermische Lösungen und insgesamt bessere Systeme zu realisieren? Das kann in der Konzeptphase des Designs oft eine harte Nuss sein.
Advantech kann mit seinen Edge-KI-Modulen die Anforderungen sowohl an einen niedrigen TDP-Wert als auch an ein kleines Format erfüllen. Zu den wichtigsten CoM-/AI-on-Module-Neuheiten gehören Module, die auf CPU-Plattformen von Qualcomm und NXP beruhen.
Roadmap in die Zukunft
Das OSM-Modul AOM-2721 mit Qualcomm-QCS6490-Prozessor.
Advantech verfügt über eine umfassende Roadmap für die Einführung neuer AI-on-Modules, die den Innovationsprozess vom Konzept über die Entwicklung und Validierung bis hin zur Serienfertigung begleitet. Zu den neuesten Produkten gehört das CoM-/AI-on-Module AOM-2721 im Lötmodulformat OSM (Open Standard Module) der Größe L (45 x 45 mm), das auf dem SoC »Dragonwing QCS6490« von Qualcomm beruht. Der Baustein ist für Hochleistungs-Edge-Computing entwickelt und umfasst eine Acht-Arm-Kern-Qualcomm-Kryo-670-CPU, eine Qualcomm-Adreno-GPU und eine Qualcomm-Hexagon-KI-Engine (NPU+DSP) mit bis zu 12 TOPS NPU-Leistung. Er bietet einen KI-gestützten Qualcomm-Spectra-Triple-ISP, skalierbare Rechenleistung, Multi-Gigabit-Connectivity-Optionen und erweiterte E/A-Schnittstellen. Das damit ausgestattete AOM-2721 bietet PCIe, USB 3.2, Gigabit Ethernet, eine serielle MIPI-CSI-Kameraschnittstelle, ein serielles I2C-Kommunikationsprotokoll, eine serielle Peripherieschnittstelle, General Purpose I/O, PWM (Pulsweitenmodulation) und Embedded-DisplayPort-Schnittstellen sowie DisplayPort- und serielle MIPI-DSI-Schnittstellen für Embedded-Anwendungen.
Ein weiteres neues AI-on-Module, das AOM-5521 von Advantech, befindet sich jetzt ebenfalls in der Serienproduktion. Es ist im Aufsteckmodul-Format SMARC gehalten (82 x 50 mm) und beruht auf dem Applikations-Prozessor i.MX 95 von NXP. Der Arm-Prozessor bietet sicheres, energieeffizientes Edge Computing und kombiniert KI-beschleunigte Bildverarbeitung mit hoher Rechenleistung und immersiver Arm-Mali-gestützter 3D-Grafik. Zu seinen Merkmalen zählen die NXP-eIQ-Neutron-NPU für Machine Learning, High-Speed-Verbindungen sowie Sicherheits- und Schutzfunktionen und die integrierte EdgeLock Secure Enclave.
Das damit ausgestattete AOM-5521 bietet umfangreiche Anschlussmöglichkeiten, darunter USB 2.0, USB 3.2 Gen1By1, 10 Gigabit Ethernet, eine serielle 4-Lane-MIPI-CSI-Schnittstelle, PCIe sowie eine Zweikanal-LVDS-Signalschnittstelle und eine serielle 4-Lane-MIPI-DSI-Displayschnittstelle. Diese Merkmale machen das AOM-5521 für eine Vielzahl von Embedded-Anwendungen geeignet.
Embedded-Module von Advantech für Mission-Critical-Anwendungen.
Außer mit dem Qualcomm QCS6490 und dem NXP i.MX 95 plant Advantech auch AI-on-Modules mit Qualcomm Snapdragon Elite / X Plus bzw. Qualcomm QCS9100. Sie eignen sich ebenfalls für die Verteidigungsindustrie, unter anderem auch für Drohnen. Die Verfügbarkeit von AI-on-Modules mit kleinen Formfaktoren und niedrigem TDP-Wert – in einigen Fällen nur 6,5 W – unterstützt kritische Aufgaben wie die autonome Objekterkennung. Tatsächlich werden alle Anwendungen profitieren, die Merkmale wie Compliance, Cybersicherheit und Resilienz erfordern. Die Optionen umfassen sowohl OSM-Module als auch SMARC-Module, was die Freiheit beim mechanischen Design vergrößert.
Auch für kommerzielle Anwendungen wie die Gesichtserkennung an Gegensprechanlagen sind geeignete Optionen in Vorbereitung. Ein Beispiel für eine kommende Entwicklung ist das AI-on-Module AOM-3841, das mit dem SoC RockChip RK3576 mit niedriger TDP ausgestattet ist.
In einer Zeit, in der Entwicklungsingenieure bestrebt sind, optimale Lösungen zu schaffen, indem sie zahlreiche Faktoren – Leistung, Zuverlässigkeit, Ausfallsicherheit, Format und niedrige TDP – gegeneinander abwägen, weisen CoMs mit KI-fähigen SoCs einen praktischen und effektiven Weg in die Zukunft. Advantech ist mit seinen AI-on-Modules entsprechend positioniert.