Elektroniknet Logo

CEVA: NeuPro

KI-Prozessoren für Deep Learning im Edge

High-Level-Blockdiagramm von NeuPro
High-Level-Blockdiagramm von NeuPro
© CEVA

CEVA hat mit NeuPro eine neue Familie von insgesamt vier KI-Prozessorkernen entwickelt, mit denen das Unternehmen die gesamte Leistungspalette von tiefen neuronalen Netzwerken abdecken will.

CEVA will mit seinen neuen KI-Prozessoren in Edge-Anwendungen landen. Dementsprechend sind die neuen IP-Cores für Anbieter von intelligenten und vernetzten Geräten entwickelt worden, die nach einer optimierten Möglichkeit suchen, um die Möglichkeiten, die tiefe neuronale Netze bieten, schnell nutzen zu können.

NeuPro baut auf den bestehenden IP-Cores für tiefe neuronale Netze auf, die CEVA für Computer-Vision-Anwendungen entwickelt hat. Während die Vision-Plattformen CEVA-XM4 und CEVA-XM6 bereits zusammen mit dem neuronalen Netzwerk-Framework CDNN in Konsumgütern, Überwachungs- und ADAS-Produkten eingesetzt sind, bietet die neue Familie eine erhebliche Leistungssteigerung auf 2 TOPS für den Einsteigerprozessor bis zu 12,5 TOPS für die fortschrittlichste Konfiguration. Mit den neuen Prozessorkernen erweitert CEVA die Anwendungsmöglichkeiten seiner bisherigen KI-Prozessoren über die maschinelle Bildverarbeitung hinaus. Denn jetzt werden Edge-basierte Anwendungen wie Gesichtserkennung, Augmented-Reality-Gesichtsfilter, intelligente Objektklassifizierung, Sprachverarbeitung, Echtzeit-Übersetzung, Workflow-Management, Authentifizierung, Malware-Erkennung in Echtzeit und vieles mehr adressiert.

Ian Yona, Vice President und General Manager der Business-Unit Vision bei CEVA: »Es ist völlig klar, dass KI-Anwendungen tendenziell immer mehr im Edge stattfinden, anstatt auf Services aus der Cloud zurückzugreifen. Die Rechenleistung, die zusammen mit der geringen Leistungsaufnahme für Edge-Anwendungen erforderlich ist, erfordert spezialisierte Prozessoren anstelle von CPUs, GPUs oder DSPs. Wir haben die NeuPro-Prozessoren entwickelt, um die hohen Eintrittsbarrieren in den KI-Bereich sowohl hinsichtlich der Architektur als auch der Software zu reduzieren. Unseren Kunden steht jetzt eine optimierte und kostengünstige Standard-KI-Plattform zur Verfügung, die sich für eine Vielzahl von KI-basierten Workloads und Anwendungen eignet.«

Die NeuPro-Architektur besteht aus einer Kombination von Hardware- und Software-basierten Engines. Folgende vier KI-Prozessoren stehen zur Verfügung:

- Der NP500 ist der kleinste Prozessor mit 512 MAC-Einheiten und zielt auf IoT-Anwendungen, Wearables und Kameras.

- Der NP1000 verfügt über 1024 MAC-Einheiten und zielt auf Smart­phones der Mittelklasse, ADAS- und industrielle Anwendungen sowie AR/VR-Headsets.

- Der NP2000 besitzt 2048 MAC-Einheiten und zielt auf High-End-Smartphones, Überwachungsanwendungen, Roboter und Drohnen.

Der größte KI-Prozessor, der NP4000, enthält 4096 MAC-Einheiten für die Hochleistungs-Anwendungen bei der Unternehmensüberwachung und im autonomen Fahren.

Jeder Prozessor besteht aus der NeuPro-Engine und der NeuPro-VPU. Die NeuPro-Engine umfasst die festverdrahtete Implementierung neuronaler Netzwerkschichten, zu denen Faltungsfunktionen, Pooling und Aktivierung gehören. Die NeuPro-VPU ist ein kostengünstiger, programmierbarer Vektor-DSP, der die CDNN-Software verarbeitet. NeuPro unterstützt sowohl 8- als auch 16-bittige neuronale Netze, wobei eine Entscheidung in Echtzeit getroffen wird, um den besten Kompromiss zwischen Präzision und Leistung zu erzielen. Die MAC-Einheiten erreichen im Betrieb eine Auslastung von mehr als 90 Prozent. Das gesamte Prozessordesign reduziert die DDR-Bandbreite erheblich und verbessert den Stromverbrauch für jede KI-Anwendung.

Für die Entwicklung mit der NeuPro-Familie steht CDNN zur Verfügung. Dabei handelt es sich um CEVAs Software-Framework für neuronale Netze. CEVA will außerdem die NeuPro-Hardware-Engine als CNN-Beschleuniger (CNN: Convolutional Neural Network) anbieten. In Kombination mit den Vision-Plattformen CEVA-XM4 oder CEVA-XM6 ergibt sich dadurch eine flexible Option für Kunden, die eine einzige einheitliche Plattform für die Bildverarbeitung, Computer-Vision und neuronale Netze benötigen.

NeuPro soll im zweiten Quartal für ausgewählte Kunden verfügbar sein. Ab dem dritten Quartal 2018 sollen die KI-Prozessoren dann für die Allgemeinheit zur Lizenzierung zur Verfügung stehen.

Relevante Anbieter


Verwandte Artikel

CEVA, Inc.