Startseite > Halbleiter > Mikrocontroller > »KI ist die größte Chance für Mikrocontroller«

Remy El-Ouazzane, STMicroelectronics

»KI ist die größte Chance für Mikrocontroller«

11. Dezember 2023, 15:00 Uhr | Iris Stroh

▶ Diesen Artikel anhören

Fortsetzung des Artikels von Teil 1

"...alles steht und fällt mit der Software"

Da ist ST nicht allein, es gibt viele andere MCU-Hersteller, die auf dasselbe Pferd setzen. Wieso glauben Sie, dass ST erfolgreicher sein kann als die Konkurrenz?

Wie gesagt, ich denke, alles steht und fällt mit der Software. Und hier, denke ich, unterscheidet sich ST ganz klar von anderen MCU-Anbietern. Wir verfolgen sehr genau, wie unsere Tools am Markt angenommen werden. Ich wäre sehr überrascht, wenn irgendein Konkurrenzprodukt zu STM32Cube AI eine ähnliche Wachstumsrate von 400 Prozent im Vergleich zum Vorjahr erreicht hätte. Ich denke, das zeigt, dass wir Entwickler in großem Umfang ansprechen können, egal aus welchem Umfeld sie stammen. Und auch MLPerf Tiny Benchmark spricht für unsere Tools. Denn wenn man sich heute die Einreichungen für MLPerf Tiny Benchmark anschaut, dann basieren 75 Prozent der Einreichungen auf STM32.

Und klar, das heißt nicht, dass wir uns getrost zurücklehnen können; die Entwicklungen im KI-Bereich sind extrem schnell, aber ich denke, derzeit ist die Qualität unseres Software-Stacks besser als bei der Konkurrenz. Und das macht einen großen Unterschied. Das kann man von Nvidia und Cuda lernen; Nvidia ist die Nummer 1 beim KI-Training aufgrund von Cuda. Wenn es um KI im Edge geht, verfolgen wir eine Strategie, bei der der Entwickler an erster Stelle steht, und wir unternehmen alles, dass unsere Tools die besten sind, die am Markt verfügbar sind.

Sie versuchen, auch Entwickler zu unterstützen, die keine KI-Experten sind. Was können diese Entwickler wirklich erwarten?

Das Einzige, was Entwickler brauchen, sind ihre Daten. Auf Basis dessen können wir vier verschiedene Bibliotheken vorschlagen: Anomalie-Erkennung, die Erkennung von Ausreißern, Klassifizierung und Regression, wobei die Bibliotheken auch kombiniert werden können. Wir können zusammen mit dem Entwickler entscheiden, welche Eingangsdaten für das Modell genutzt werden sollen, seien es Vibrationsdaten oder Druckdaten. Das Tool bietet entsprechende Eingabe- und Spezifikationsmöglichkeiten. Auf Basis dieser Eingaben werden im Hintergrund Tausende von ML-Modelle ausprobiert. Der Entwickler kann noch zwischen Genauigkeit, benötigtem Speicherplatz oder Latenz entscheiden, darüber hinaus gibt das Tool auch noch eine Abschätzung über die benötigte Energie ab. Am Ende schlägt das Tool genau das Modell vor, das am effizientesten zu den Eingaben passt. Und diese Bibliothek kann dann heruntergeladen und vom Entwickler selbst getestet werden.

CNN-Beschleuniger sind wichtig, keine Frage, aber mittlerweile rutschen die Transformer immer stärker in den Fokus der Entwickler. Sie benötigen aber eine andere Hardware zum Beschleunigen. Kann ST auch Transformer unterstützen?

Es gibt immer mehr neuronale Netze, und deshalb entwickeln wir eine ganze Reihe von beschleunigter Hardware, einschließlich STM32N6-Mikrocontroller und STM32MP2-Mikroprozessor. Im Moment verlangen nur sehr wenige unserer Kunden Transformer in ihren Embedded-Geräten, aber wir bereiten uns auch auf diese zukünftige Möglichkeit vor.

Unsere STM32N6-MCUs mit NPU können Transformer verarbeiten, aber nicht so effektiv. Die N6-MCUs wurden für heutige Arbeitslasten wie ResNet 50 oder Yolo optimiert. Transformer brauchen einen speziellen Decoder, den wir heute nicht unterstützen. Aber natürlich könnten wir in der nächsten Generation einen Beschleuniger integrieren, der für Transformer optimiert ist. Um es klar zu machen: Welche KI auf einem Mikrocontroller laufen kann, hängt nicht von der Rechenleistung, sondern vom Speicher ab. Das heißt: Auch in Zukunft können auf Mikrocontrollern keine Modelle verarbeitet werden, die Milliarden Parameter aufweisen. Das wird nicht funktionieren. Die Rechenleistung bekommen wir hin, aber der Speicher ist begrenzt. Dementsprechend müssen wir als Industrie alles daran setzen, komplexe Modelle so umzuwandeln, dass sie in den Speicherplatz eines Mikrocontrollers passen – aus heutiger Sicht irgendetwas zwischen 4 und 8 MB Flash.

Und ST übernimmt diese Art der Optimierung?

Ja. Wir verfolgen in dem Fall zwei Ansätze: Wir entwickeln unseren eigenen, extrem optimierten Modell-Zoo. Und wir arbeiten mit Nvidia zusammen, das Unternehmen, das über die meisten Modelle verfügt. Mit der Ankündigung von Nvidia, dass das TAO Toolkit 5 auch das quantisierte ONNX-Format unterstützt, haben sich für STM32-Entwickler vollkommen neue Möglichkeiten ergeben. Wobei auch hier klar ist, dass wir nicht alle Modelle von Nvidia unterstützen können, denn auch in dem Fall gilt, sie müssen auf die Speichergrößen von Mikrocontrollern passen.

Soweit zur Software, aber was ist von ST im Bereich KI im Edge auf der Hardware-Seite zu erwarten?

Wie bereits gesagt: KI im Edge ist nicht eine Frage der Rechenleistung sondern der Speicherkapazität. Wenn man von 1 TOPS/W auf 10 TOPS/W kommen will, gelingt das nicht über mehr Beschleuniger. Das heißt, am Ende des Tages geht es darum, inwieweit ein Unternehmen in der Lage ist, mehr und mehr der Rechnungen innerhalb der Speicherstruktur durchzuführen, damit die Daten nicht immer hin und her bewegt werden müssen. Und auch hier haben wir einen einzigartigen Vorteil. Wir haben während der diesjährigen ISSCC in einem Paper ein SRAM-basiertes In-Memory-Compute-Design vorgestellt. Dieser Demonstrator zeigt, dass wir damit in der Lage sind, 60, 70 TOPS/W zu erreichen, das ist mindestens das 10-Fache von dem, was wir mit unseren N6-MCUs schaffen.

Die ISSCC ist eine großartige Konferenz, aber zwischen manchen Papers, die dort vorgestellt werden, und der Kommerzialisierung liegen Jahre, wenn es überhaupt klappt. Deshalb meine Frage: Welchen Zeitplan verfolgt ST bei MCUs mit SRAM-basierten Memory-in-Compute-Einheiten?

Derzeit werden unsere STM32N6-MCUs als Samples an unsere Kunden geliefert, die Produktion wird nächstes Jahr starten. Ich möchte betonen: Wir haben bereits Demonstratoren der MCUs mit SRAM-basierten Memory-in-Compute-Einheiten vorgestellt, wir können bereits reelle Leistungsdaten messen. Deshalb glaube ich, dass wir in den nächsten drei bis fünf Jahren Produkte mit dieser Technologie auf den Markt bringen werden.