Elektronik: Embedded-Geräte sind in der Regel ressourcenbeschränkt, batteriebetrieben usw. Werden Systeme jetzt immer umfangreicher, weil die KI viel Rechenleistung benötigt?
Jim Tung: Wir müssen den Trainingsprozess getrennt von der Anwendung des Inferenzmodells betrachten. Das Training erfordert viel PS und viele Daten, und dieser Prozess wird in der Regel offline durchgeführt. Nach der Trainingsphase kann das Inferenzmodell jedoch auf vielen Embedded-Plattformen implementiert und angewendet werden, nicht nur auf GPUs, sondern auch auf ARM-Cores, FPGAs usw. Bei MathWorks haben wir viel Erfahrung mit der automatischen Generierung von effizientem Code auf diesen Plattformen, und unser Ziel ist es, dasselbe mit Deep-Learning-Modellen zu tun. Auf diese Weise kann der Entscheidungsprozess für Embedded-Systemingenieure ein vertrauter Prozess sein, der Leistung, Preis und Stromverbrauch ausgleicht. Außerdem führt ein System, das KI-Schlussfolgerungen durchführt, in der Regel auch andere Aufgaben aus (z.B. Steuerung), sodass es sich lohnt zu prüfen, ob es bereits ein eingebettetes System im System gibt, das genutzt werden kann.
Zusätzlich zur Auswahl der Zielplattform gibt es algorithmische Ansätze, die helfen, den Ressourcenbedarf zu senken. Netzwerke können quantisiert werden. Sobald Sie also ein Netzwerk haben, das das gewünschte Verhalten zeigt, können Sie dieses Verhalten manchmal in einem kleineren Netzwerk replizieren, wobei Sie das ursprüngliche Netzwerk als Trainings-Set verwenden. Das ähnelt dem Prozess, bei dem man mit einem Gleitkommaalgorithmus beginnt und ihn dann mit Festkomma implementiert. Dadurch können Sie andere Netzwerktopologien untersuchen, die weniger Ressourcen benötigen, ohne sie auf den ursprünglichen Datensatz trainieren zu müssen, und die Genauigkeit gegen die Netzwerkgröße und die Rechenanforderungen abwägen.
Elektronik: Welchen Einfluss wird die KI auf die Hardware-Entwicklung haben? Brauchen wir neue Computerarchitekturen?
Jim Tung: Es führt bereits zu Veränderungen im Beschleunigermarkt und zu einem Wiederaufleben verschiedener Arten von niedrigpräzisen Gleitkomma-Chips sowie zu int4 und anderen superschnellen, niedrigpräzisen Operationen. Es treibt auch die Entwicklung optimierter Bibliotheken voran. Welche neuen Architekturen und Bibliotheken eine sinnvolle Akzeptanz finden werden, zeichnet sich noch nicht ab, aber wir beobachten diese sich verändernde Landschaft sehr genau. Die KI wird aber auch das Gesamtsystem beeinflussen, von dem das eingebettete System nur ein Teil ist. In vernetzten Systemen wird es zunehmend möglich sein, einige Teile einer Anwendung in eine Cloud oder ein Rechenzentrum zu verlagern anstatt in eine andere Recheneinheit im System. Und angesichts des Bedarfs an Daten und Trainingsressourcen kann dies erforderlich sein. Daher müssen die Ingenieurteams weiterhin auf Systemebene denken, und zwar in Bezug auf Architektur und Zuordnung. Embedded-System-Engineering-Teams sollten sich darauf vorbereiten, Teil davon zu sein, wenn sie es nicht bereits tun.
Elektronik: Was sind die Herausforderungen der KI für ein Unternehmen wie MathWorks?
Jim Tung: Eine große Herausforderung, die auch eine große Chance ist, ist es, die KI breiter verfügbar, zugänglich und für Ingenieure leichter erlernbar und anwendbar zu machen – und das nicht nur für Datenwissenschaftler. Darauf konzentrieren wir uns. Um diesen Forderungen gerecht zu werden, hat MathWorks neue Workflow-Tools entwickelt, um die Datensynthese, -klassifizierung, -abstimmung und -bereitstellung zu vereinfachen und zu automatisieren und so die KI für alle zugänglich zu machen. Diese Tools erweitern auch die Bandbreite der Anwendungen von Bildverarbeitung bis hin zu Zeitreihendaten wie Audio, Signalverläufen und IoT, die im Ingenieurwesen üblich sind. Wir sehen daraus neue Anwendungen hervorgehen, die von unbemannten Luftfahrzeugen (UAV) mit KI zur Objekterkennung in Satellitenbildern bis hin zur verbesserten Diagnose bei der Krebs-Früherkennung reichen.
Eine weitere Herausforderung ist es, Anwendern zu helfen, die KI für die Edge entwerfen. Edge Computing wird KI-Anwendungen in Szenarien ermöglichen, in denen die Verarbeitung lokal erfolgen muss. Fortschritte bei Sensoren und Low-Power-Computerarchitekturen werden Edge-Computing mit leistungsstarken, Echtzeit- und immer komplexeren KI-Lösungen ermöglichen. Edge Computing wird für die Sicherheit in autonomen Fahrzeugen entscheidend sein, die ihre lokale Umgebung verstehen und Entscheidungen Echtzeit treffen müssen. Edge Computing verspricht enorme Kosteneinsparungen für ent¬legene Standorte mit eingeschränkter oder teurer Internetanbindung, wie z.B. Ölplattformen.
Eine weitere Herausforderung betrifft die Interoperabilität. Wir entwickeln Werkzeuge für Matlab, um u.a. Modelle mit anderen Deep-Learning-Frameworks auszutauschen. Dabei stehen wir vor der Herausforderung, dass einige Frameworks unvollständige APIs und Inkompatibilitäten zwischen Versionen aufweisen. Dies ist wahrscheinlich nicht nur für MathWorks eine Herausforderung, sondern für jeden, der sich einen uneingeschränkten Datenaustausch zwischen den Frameworks wünscht
Eine weitere Herausforderung für MathWorks und Unternehmen, die KI in der Produktion einsetzen wollen, ist das Fehlen umfassender Test- und Verifikationstechniken. Wir arbeiten mit Forschern zusammen, die an verschiedenen Ansätzen arbeiten, aber ihre Methoden haben noch nicht die Stringenz und Zuverlässigkeit erreicht, die wir für ausreichend halten.
Elektronik: Wie verändert sich der Embedded-Markt, wenn Komponenten- und Systemanbieter immer mehr Software integrieren? (z.B. Halbleiterhersteller bieten komplette Referenzarchitekturen an, Embedded-Computerhersteller sorgen für die Cloud-Anbindung ihrer Systeme, etc.)
Jim Tung: Der Megatrend mehr Software in Embedded-Systemen ist seit Langem im Gange, und die KI beschleunigt den Trend. Ein Ergebnis ist der erhöhte Bedarf an Simulation, Test und Interoperabilität. KI-Funktionen neigen dazu, mit dem Rest des Systems auf hochkomplexe und manchmal wechselnde Weise zu interagieren, was ausführliche Simulationen und Tests auf Systemebene erfordert. Betrachten Sie beispielsweise eine Fußgängererkennung in einem Fahrzeug, in der ein KI-basierter Fußgängerdetektor mit einem Notbremssystem gekoppelt ist. Um die Stabilität zu erhalten und die Sicherheit zu gewährleisten, können Ingenieure nicht nur auf Subsystemebene testen. Die Interaktion zwischen der KI und dem Rest des Systems hat einen signifikanten Einfluss auf die Gesamtleistung.
Elektronik: Was sollte ein Software-Entwickler, der aus der binären Welt der Ja-Nein-Entscheidungen kommt, tun, um sich mit KI-Algorithmen vertraut zu machen?
Jim Tung: Es gibt viele Online-Ressourcen, um die Grundlagen der KI in den Bereichen Machine Learning und Deep Learning zu erlernen. MathWorks bietet viele Lernressourcen, darunter Tutorials, Videos, Code-Beispiele, umfangreiche Produktdokumentation und einen selbstgesteuerten »onramp«-Kurs sowie trainergeführte Kurse.
Elektronik: Was ist Ihre Vorhersage? Wie weit wird die KI im Jahr 2030 sein?
Jim Tung: Wir stehen mit KI noch ganz am Anfang. Den Einsatz von KI heute und in naher Zukunft würde ich als »Narrow KI« bezeichnen, bei der KI eine einzige Aufgabe erfüllt. Mit genügend Daten und einem guten Modell kann die KI manchmal eine bestimmte Aufgabe besser und schneller erledigen als eine Person das könnte. Ein Beispiel dafür ist die Analyse eines medizinischen Bildes auf schwer zu erkennende Anzeichen von Krebswachstum. Oder die automatische Erkennung eines Objekts, wie beispielsweise eines Straßenschildes. Dies sind »enge« Aufgaben, die einen menschlichen Experten unterstützen können. Oft werden auch mehrere KI-Aufgaben zusammengefasst, darunter auch Aufgaben, die nicht »KI« sind, als Teil eines Expertensystems, wie beispielsweise eines autonomen Fahrzeugs. Eine generalisierte KI, die für viele Aufgaben genutzt werden kann, ist das, was wir bis 2030 erwarten könnten. »Artificial General Intelligence« (AGI), die der allgemeinen Fähigkeit der menschlichen Intelligenz bei den meisten Aufgaben näher kommt, ist vielleicht Jahrzehnte entfernt.
Literatur
[1] Gershgorn, D.: The data that transformed AI research – and possibly the world. https://qz.com/1034972/the-data-that-changed-the-direction-of-ai-research-and-possibly-the-world/