Avnets leistungsstarke Module für KI

Höchste Arm-Performance auf SMARC

18. Juni 2024, 8:00 Uhr | Autorin: Christian Bauer, Product Marketing Manager bei Avnet Embedded
© Avnet Embedded

Um den wachsenden Bedarf an leistungsstarken und effizienten Embedded-Compute-Modulen mit KI-Unterstützung für kommerzielle und industrielle IoT-Anwendungen zu decken, intensiviert Avnet seine Kooperation mit Qualcomm. Als erste Produkte stehen zwei performante Baugruppen im SMARC-Formfaktor bereit.

Diesen Artikel anhören

Seit der Vorstellung und Anwendung von ChatGPT ist das Thema künstliche Intelligenz (KI) in aller Munde. Im industriellen Umfeld ist heute das vorrangige Einsatzgebiet von KI die intelligente Bildverarbeitung, da hier eine große Menge an Daten aufgenommen, verarbeitet und gespeichert wird.

Moderne Vision-Inspektionssysteme mit zahlreichen installierten Kameras werden in der Industrieautomatisierung vor allem zur Fertigungsoptimierung und Qualitätskontrolle sowie zur Überwachung des Produktionsumfeldes eingesetzt. Einerseits werden bestehende Prozessanlagen nachgerüstet und auf der anderen Seite neue zukunftsorientierte Fertigungslinien mit KI-Fähigkeiten installiert. Das Ziel ist, effizientere, schnellere und kostengünstigere Automatisierungsprozesse zu ermöglichen.

Der Einsatz von künstlicher Intelligenz revolutioniert anspruchsvolle Medizingeräte wie hochleistungsfähige Computer- und Magnetresonanztomografiesysteme, Ultraschall- und Diagnosegeräte, stationäre und mobile Patientenmonitorsysteme. Ein weiteres Beispiel sind Operationsroboter mit modernen Kamerasystemen, die die Anzahl von Operationsfehler deutlich reduzieren können.

passend zum Thema

Edge mit Vorteilen gegenüber Cloud

Die große Menge an Daten, die bei dem Einsatz von hochleistungsfähigen Bildverarbeitungssystemen anfallen, können in einer Cloud oder »on the Edge« verarbeitet werden. Heute wird in den meisten Anwendungen die zweite Variante, also KI vor Ort, bevorzugt. Dieser Ansatz steht für ein hohes Maß an Datensicherheit und kurze Latenzzeiten. Zudem fallen für eine Edge-Box geringere Kosten im Vergleich zu den Gebühren für eine Cloud an.

Das Zusammenwachsen von Edge-Computing und künstlicher Intelligenz läutet eine neue Ära an intelligenten Industrieanwendungen ein. Voraussetzungen dafür sind eine hohe Performance der Prozessortechnologie und ein besonders leistungsfähiger KI-Beschleuniger in Kombination mit einer geringen Leistungsaufnahme.

Arm löst x86 ab

Standardisierte Embedded-Computing-Module stellen eine skalierbare Prozessorfunktionalität zur Verfügung und bieten eine hohe Flexibilität in puncto Rechen- und Grafikleistung sowie eine breite Auswahl an Schnittstellen. Das Modulkonzept ermöglicht die Optimierung der Entwicklungszeit und der Kosten des zukunftsorientierten Endprodukts. Neben den etablierten Modulstandards COM Express, COM-HPC und OSM bietet sich der vielseitige, kompakte Formfaktor SMARC (Smart Mobility Architecture) an, der in leistungsfähigen Low-Power-Anwendungen zum Einsatz kommt. SMARC ist für x86- und Arm-basierte Module definiert. Da Arm-basierte Module immer leistungsfähiger werden, stoßen sie auch in Anwendungen vor, die bislang x86-Boards vorbehalten waren. Die offenen Standards sind darauf ausgerichtet, die Verfügbarkeit der Module und damit eine lange Lebensdauer der Endprodukte sicherzustellen.

Eine leistungsstarke Plattform mit hoher Prozessorkraft und KI-Fähigkeiten auf dem kompakten SMARC-Formfaktor bietet Avnet Embedded mit den Modulfamilien MSC SM2S-QCS6490 und MSC SM2S-QCS5430 an (Bild 1). Die Computer-on-Modules integrieren die Arm-Prozessoren Qualcomm QCS6490 bzw. QCS5430. Mit den beiden High-End-Produkten hat Avnet ihr Portfolio an SMARC-Modulen um eine neue Leistungsklasse am oberen Ende erweitert.

Die kompakten Module mit Abmessungen von 82 mm × 50 mm liefern ein optimales Verhältnis von hoher Performance und Energieeffizienz. Die Modulfamilie MSC SM2S-QCS6490 bietet maximale CPU-, GPU- und NPU-Performance bei einer Verlustleistung von nur 7 W. Die kostenoptimierten MSC-SM2S-QCS5430-Module sind durch eine gute Balance von Leistungsdaten und einer Verlustleistung von 5 W gekennzeichnet.

LLM-Basis für Industrieumgebungen

Auf den KI-fähigen Modulen mit Qualcomm-Prozessoren können lokal Large Language-Models (LLMs) laufen, die über Millionen von Parametern gesteuert werden. Das LLM ist ein neuronales Netzwerk für Machine-Learning, das mit ein- und ausgehenden Daten trainiert wird. Um zu vermeiden, dass die Daten zu umfangreich und damit nicht mehr nachprüfbar werden, stellt die Retrieval-Augmented-Generation(RAG)-Technik im LLM kontextbezogene Daten zur Verfügung.

Die Modulfamilien MSC SM2S-QCS6490 und MSC SM2S-QCS5430 sind speziell für industrielle und kommerzielle IoT Anwendungen geeignet und für den Temperaturbereich von –30 bis +85 °C spezifiziert. Beispiele dafür sind Handhelds und Tablets sowie Kiosks, die für raue Anforderungen ausgelegt sind, industrielle Scanner, Dash-Kameras, HMI und Point-of-Sales(PoS)-Systeme.

MSC SM2S-QCS6490

Die SMARC-2.1.1-Modulfamilie MSC SM2S-QCS6490 von Avnet Embedded basiert auf dem 6-nm-Prozessor Qualcomm QCS6490, der eine Qualcomm-Kryo-670-CPU mit bis zu acht Cores – vier Arm-Cortex-A78-Kerne und vier Arm-Cortex-A55-Kerne – integriert. Zusätzlich sind die Grafikprozesseinheit Qualcomm Adreno 643 GPU und die Vision-Prozesseinheit Qualcomm Adreno 633 VPU vorhanden. Die GPU unterstützt Video-Encoding/Decoding bis zu 4K30/4K60 und zahlreiche Display-Optionen wie LVDS, MIPI-DSI, eDP/DP. Die integrierte Qualcomm-AI-Engine beinhaltet einen KI-Beschleuniger. Damit liefert das Modul eine leistungsstarke Edge-KI für anspruchsvolle Anwendungen mit bis zu 12 TOPS (Tera-Operations per Second) bei niedriger Verlustleistung. Für den Anschluss von Kameras sind vier MIPI-CSI-Eingänge vorhanden.

MSC SM2S-QCS5430

Für weniger anspruchsvolle Anwendungen integriert die SMARC-2.1.1-Modulfamilie MSC SM2S-QCS5430 von Avnet Embedded den 6-nm-Prozessor Qualcomm QCS5430 mit Qualcomm-Kryo-670-CPU mit bis zu sechs Kernen (zwei Arm Cortex-A78 und vier Arm Cortex-A55). Zusätzlich vorhanden sind die Grafikprozesseinheit Qualcomm Adreno 642L GPU, die Video-Encoding/Decoding bis zu 4K30/4K30 und zahlreiche Display-Optionen (LVDS, MIPI-DSI, eDP/DP) unterstützt. Die Vision-Prozesseinheit Qualcomm Adreno 633 VPU und die Qualcomm-AI-Engine sind ebenfalls integriert. Das Modul liefert immerhin bis zu 3,5 TOPS bei niedriger Verlustleistung und bietet vier MIPI-CSI-Eingänge für den Anschluss von Kameras.

Avnet und Qualcomm kooperieren bei »Vision-AI«

Auf der embedded world 2024 haben Avnet und Qualcomm Technologies ihre Zusammenarbeit bei hochleistungsfähigen Embedded-Compute-Modulen basierend auf innovativer Arm-Technologie bekannt gegeben. Das Ziel ist, das Zusammenwachsen von Edge-Computing und künstlicher Intelligenz in Industrieanwendungen zu beschleunigen als Basis für eine neue Ära an intelligenten Produkten.

Dank der Kooperation kann Avnet ihr bereits umfangreiches Produktportfolio um leistungsstarke Arm-basierte Module erweitern, die höchste Performance bieten und speziell für industrielle und kommerzielle IoT-Anwendungen geeignet sind. Das erste Ergebnis ist die Vorstellung der zwei KI-fähigen SMARC-Modulfamilien MSC SM2S-QCS6490 und MSC SM2S-QCS5430 von Avnet, die die Prozessoren QCS6490 und QCS5430 von Qualcomm integrieren.

 

Qualitätsversprechen für Hardware und Service

Avnet Embedded stellt zur Evaluierung und fürs Design-in der beiden neuen Module ein komplettes Ecosystem einschließlich Entwicklungsplattform und passendem Starterkit zur Verfügung. Support für Linux, Windows11 IOT und auf Anfrage für Android sind vorhanden. Die Baugruppen werden in den unternehmenseigenen Designcentern entwickelt und in hochautomatisierten Produktionsstätten gefertigt. Damit ist eine sehr hohe Qualität der Embedded-Boards sichergestellt.

Das gerade vorgestellte Vision-AI-Entwicklungskit QCS6490 von Avnet integriert bereits als Herzstück das SMARC-2.1.1-Compute-Modul MSC SM2S-QCS6490 (Bild 2). Das Carrierboard unterstützt den Anschluss von vier Kameras und zwei Displays. An Schnittstellen sind u. a. USB, CAN FD, Gigabit-Ethernet und optional schnelles WiFi vorhanden. Das Audio-Subsystem umfasst zwei PDM-Mikrofone, Stereo-Audio-Codec, eine digitale Audioschnittstelle und analoges Audio-Jack-I/O. (lb)


Lesen Sie mehr zum Thema


Jetzt kostenfreie Newsletter bestellen!

Weitere Artikel zu Avnet Embedded (Avnet EMG GmbH)

Weitere Artikel zu Embedded

Weitere Artikel zu Industrie-Computer / Embedded PC