KI für Embedded-Systeme „Unglaubliche Leistungssprünge“

Aaeons "Ai Core" ist deutlich kleiner als der "Movidius Neural Compute Stick".

Einer der wichtigsten Trends der embedded world 2018 ist, die künstliche Intelligenz (KI) mit Echtzeit zu kombinieren. Damit wandert die Entscheidung aus der Cloud direkt in das Edge-Device.

»Es hat in letzter Zeit unglaubliche Leistungssprünge in der KI-Technik gegeben – damit ist KI kein Traum mehr, sondern Realität«, betont Jim Liu, CEO von Adlink Technology. »Wir wollen jetzt die KI aus der Cloud in das Edge-Device holen, damit lokale Entscheidungen augenblicklich getroffen werden können und nicht erst auf Ergebnisse aus einem Rechenzentrum warten müssen.«

Das Echtzeit-Know-how der Embedded-Computing-Anbieter liefert dabei nicht nur die notwendigen Daten für den Entscheidungsprozess, sondern ist auch die Verteidigungsstrategie, damit Google und andere IT-Schwergewichte nicht im Edge dominieren. »Google hat 4000 KI-Projekte und sie haben die Daten, um Tausende von KI-Modellen zu trainieren«, erläutert Jim Liu. »Wir hingegen können Echtzeit und damit der realen Welt, der Operational Technology (OT) beispielsweise, bei der Bildverarbeitung helfen, denn die wird in Zukunft wichtiger sein als die Datenverarbeitung.«

Adlink kooperiert dazu mit Nvidia im Rahmen von „AI at the Edge“, um die GPGPU-Technik für KI- und Deep-Learning-Anwendungen in Bereichen wie Robotik, autonomen Fahrzeugen, Gesundheitswesen und anderen Branchen zu nutzen. Aufgrund der hohen Anzahl an GPU-Kernen können so Matrix-Operation der KI deutlich besser verarbeitet werden als mit klassischen CPUs.

Einen technologischen Schritt weiter geht die Kooperation von Aaeon Technologies und Intel mit der „AI: In Production“-Initiative: Hier soll die „Myriad 2 Vision Processing Unit“, die bislang nur im „Movidius Neural Compute Stick“ zum Einsatz kam, in Embedded-Anwendungen Einzug halten. Der auf Tensor-Rechnung spezialisierte Baustein hat nur 1 W Leistungsaufnahme und kommt damit sehr dem Low-Power-Bedürfnis von Edge-Devices nach. Aaeon bietet ihn auf der PCI-Express-Mini-Card „AI Core“ in Kombination mit 512 MB Speicher für 69 Dollar an. Die nur 51 mm x 30 mm kleine Karte kann in das „AI Plus“-Erweiterungs-Board eingesteckt werden, das zusätzlich über ein Intel-Cyclone-10GX-FPGA verfügt. Das 90 mm x 57 mm große „AI Plus“-Board bietet zudem einige Kameraschnittstellen an, unter anderem für Baslers LVDS-Kameras, und dient zur Erweiterung des gleich großen „UP Core Plus“-CPU-Boards.

Letzteres nutzt einen Apollo-Lake-I-Prozessor mit 8 GB DDR4-Speicher und hat eine Leistungsaufnahme von unter 10 W. Alle drei Baugruppen zusammen bezeichnet Aaeon als „UP AI Edge“ und will diese ab Mai für 399 Dollar anbieten. Zum Einsatz kommen soll das Trio vor allem bei der Objekt und Personenerkennung.