Software für KI und Machine Learning
NXP erweitert eIQ-Software um Edge-KI-Funktionen
NXP Semiconductors hat zwei neue Tools in seine eIQ-Software für KI und Machine Learning integriert: das eIQ Time Series Studio und den GenAI Flow mit Retrieval Augmented Generation (RAG).
Die beiden Tools werden die Bereitstellung und Nutzung von KI an der Edge in vielen verschiedenen Edge-Prozessoren vereinfachen: von kleinen Mikrocontrollern (MCUs) bis hin zu größeren und leistungsstärkeren Prozessoren (MPUs).
Das eIQ Time Series Studio bietet einen automatisierten Workflow für Machine Learning, der die Entwicklung und Implementierung zeitreihenbasierter Modelle in MCU-Bausteinen vereinfacht und beschleunigt, etwa den MCUs der MCX-Produktlinie oder den Crossover-MCUs des i.MX-RT-Portfolios.
Der GenAI Flow stellt die Building Blocks für Large Language Models (LLMs) bereit, die die Basis für generative KI-Lösungen bilden. Diese Lösungen wurden speziell für den Einsatz mit Anwendungsprozessoren wie etwa der i.MX-Familie von NXP entwickelt und vereinfachen die Bereitstellung von Intelligenz an der Edge durch Training von LLMs auf spezifische kontextbezogene Daten. Ein Gerät beispielsweise, dessen LLM das Benutzerhandbuch eingelernt hat, kann Nutzern in natürlicher Sprache erklären, wie man auf bestimmte Funktionen zugreift, Aufgaben erledigt oder die Nutzung und Wartung optimiert.
Der GenAI Flow bietet auch Retrieval Augmented Generation (RAG), eine Methode zur sicheren Feinabstimmung von Modellen auf spezifisches Fachwissen und private Daten, ohne sensible Informationen an Modell- oder Prozessoranbieter weiterzugeben. Durch das Verknüpfen mehrerer Module in einem einzigen Workflow können Unternehmen LLMs problemlos an ihre Anforderungen anpassen und sie für den Einsatz an der Edge mit MPUs wie etwa dem i.MX-95-Anwendungsprozessor von NXP optimieren.
Die Nutzung von Edge-KI bringt mehrere Vorteile mit sich, wie kürzere Latenzzeiten, zuverlässigeren Datenschutz für die Anwender und einen geringeren Energieverbrauch. Die Erweiterung des eIQ-Toolkits macht diese Implementierungen erheblich einfacher und schneller und bietet Entwicklern Zugriff auf eine größere Auswahl an Modelltypen – von generativer KI über zeitreihenbasierte Modelle bis hin zu bildbasierten Modellen. Diese Modelle lassen sich auch in einem größeren Spektrum von Edge-Prozessoren einsetzen.
»KI ist der Schlüssel zu einer Welt, in der die Wünsche und Bedürfnisse der Anwender antizipiert und automatisiert werden«, erläutert Charles Dachs, Senior Vice President und General Manager, Industrial & IoT, NXP Semiconductors. »Dafür muss die KI jedoch so entwickelt werden, dass sie auch praktikabel für den Einsatz an der Edge ist. NXP stellt fortschrittliche Tools zur Verfügung, die sofort einsatzbereit sind und sich sowohl für kleine KI-Modelle in MCUs wie den MCX-Bausteinen und in Crossover-MCUs wie dem i.MX RT700 eignen als auch größere, generative Modelle in leistungsstarken Anwendungsprozessoren wie dem i.MX 95 unterstützen. Damit bietet NXP Entwicklern eine beispiellose Bandbreite von Optionen für das gesamte Spektrum von Edge-KI-Anwendungen.«
Das eIQ Time Series Studio beschleunigt und vereinfacht die Entwicklung und Bereitstellung zeitreihenbasierter KI-Modelle. Es unterstützt diverse Eingangssignale wie Spannung, Strom, Temperatur, Vibration, Druck, Schall und Time of Flight sowie deren Kombination für multimodale Sensorfusion. Die Fähigkeit zum automatischen Machine Learning ermöglicht es Entwicklern, wertvolle Erkenntnisse aus Rohdaten zu gewinnen und schnell KI-Modelle zu erstellen, die gezielt auf Leistung, Speicherbedarf, Flash-Größe und Genauigkeit abgestimmt sind. Das Tool bietet eine umfassende Entwicklungsumgebung, einschließlich Datenkuratierung, Visualisierung und Analyse sowie automatische Generierung, Optimierung, Emulation und Bereitstellung von Modellen. Die intuitive Benutzeroberfläche ermöglicht es Software-Entwicklern, optimierte Bibliotheken zur Erkennung, Klassifizierung und Regression von Anomalien zu erstellen, ohne dass tiefgreifende datenwissenschaftliche oder KI-Kenntnisse erforderlich sind.
Lesen Sie mehr zum Thema
