Startseite > Embedded > Hardware > PCIe-Karten mit Hailo-KI-Chip

Mit vier oder acht CPUs

PCIe-Karten mit Hailo-KI-Chip

9. Mai 2023, 8:30 Uhr | Tobias Schlichtmeier

Die PCIe-Einsteckkarten »MiAi-H8« verfügen je nach Ausführung über vier oder acht Hailo-8-KI-Prozessoren.

Hinter der Bezeichnung »MiAi-H8« verbirgt sich eine Neuheit im Portfolio von ICP Deutschland. Die erste PCI-Express-Einsteckkarte ausgestattet mit »Hailo-8« KI-Prozessoren. Ausgelegt ist die MiAi-H8 für den PCI-Express-Bus der dritten Generation, zudem verfügt sie über 16 PCIe Lanes.

▶ Diesen Artikel anhören

ICP Deutschland bringt zwei Versionen mit je zwei Varianten auf den Markt. Hiermit lassen sich Computersysteme einfach erweitern. Je eine Version mit vier sowie eine Version mit acht Hailo-8 KI-Prozessoren bieten ausreichend Inferenzleistung für Anwendungen der künstlichen Intelligenz (KI).

Variante eins mit vier Hailo-8-Prozessoren erreicht eine Leistung von 104 TOPs, 5.300 FPS Inferenzleistung bei Verwenden von »ResNet« und 900 FPS bei »YOLO v5m«. Bei der Variante zwei mit acht Hailo-8-Prozessoren verdoppelt sich gar die Leistung. Machine Learning Frameworks wie »ONNX«, »Tensorflow« und »pyTorcg« werden von der MiAi-H8 unterstützt. Ferner bietet die Erweiterungskarte GStreamer-, Native-C/C++- und ONNX-Runtime-Unterstützung. Neben dem Dataflow Compiler, der die Modellkonvertierung und -kompilierung ermöglicht, stehen weitere Software-Pakete parat. Zudem steht »HailoRT« als Laufzeitumgebung und Treiber Paket bereit und »Model Zoo« bietet Entwicklern vortrainierte Modelle. Des Weiteren enthält »TAPPAS«, das Development Framework, Vorlagen und Multi-Network Pipelines für den schnellen Einstieg.

Ein Nachrüsten von Systemen erleichtert ICP Deutschland mit der Kompatibilität zu Linux Ubuntu 22.04, sowie Microsoft Windows 10 Professional oder IoT 2021 mit Windows 11 Professional. Um Entwicklern das Skalieren möglichst einfach zu machen, können mehrere Karten in einem System betrieben werden. Für anspruchsvolle Betriebstemperaturen steht eine aktiv gekühlte Variante parat. Die Version mit vier Hailo-Prozessoren unterstützt hierbei -40 bis +85 °C, die Version mit acht Prozessoren -40 bis +75 °C. Die Leistungsaufnahme liegt zwischen 20 und 30 W und erreicht ein Maximum von 74 W.