Startseite > Automotive > Software + Tools > So wird KI berechenbar und überprüfbar

Intelligente Fahrzeugsysteme

So wird KI berechenbar und überprüfbar

24. Juni 2025, 13:20 Uhr | Autor: Ricardo Camacho, Redaktion: Irina Hübner

Künstliche Intelligenz entwickelt sich zu einer Schlüsseltechnologie in der Autoindustrie, die neue Möglichkeiten in Bereichen wie vorausschauende Wartung und autonomes Fahren schafft. Doch KI bringt auch komplexe Herausforderungen in den Bereichen Sicherheit, Compliance und Rechenleistung mit sich.

▶ Diesen Artikel anhören

Das moderne Auto ist nicht mehr nur eine Maschine aus Metall, Getriebe und Gummireifen. Es wird immer mehr zu einem denkenden, fühlenden und anpassungsfähigen Begleiter auf der Straße. Im Zentrum dieser Entwicklung steht die KI – eine Technologie, die die Funktionsweise und Entscheidungsfindung von Fahrzeugen in komplexen, realen Szenarien verändert. Von den eleganten selbstfahrenden Prototypen der Tech-Giganten bis hin zu intelligenten Sicherheitsfunktionen in Alltagsautos verschiebt KI die Grenzen dessen, was Autos leisten können. Doch diese Intelligenz in sicherheitskritischen Systemen zum Leben zu erwecken, ist nicht ohne Herausforderungen.

Nicht nur PS, sondern auch Köpfchen ...

KI ist für Fahrzeuge so wichtig, weil sie heutzutage unglaublich viele Daten verarbeiten müssen. Man stelle sich ein selbstfahrendes Auto vor, das über eine belebte Kreuzung fährt. Es muss Informationen von Kameras, Lidar, Radar, GPS und anderen Sensoren in Echtzeit verarbeiten. KI ermöglicht es Autos, nicht nur zu reagieren, sondern ihre Umgebung zu verstehen.

Mit ihrer Hilfe können Fahrzeuge zwischen einem Fußgänger und einem Verkehrsschild unterscheiden oder entscheiden, wann sie bei dichtem Verkehr die Spur wechseln müssen. Über das autonome Fahren hinaus hilft KI den Fahrzeugen, die Vorlieben des Fahrers zu erlernen, den Energiebedarf in Elektrofahrzeugen zu optimieren und vorherzusagen, wann Teile auszutauschen sind, wodurch das Risiko von Pannen verringert und die Gesamteffizienz des Fahrzeugs verbessert wird.

Verborgene Komplexität

Trotz ihres Potenzials steht die KI im Automobilbereich vor einer Reihe einzigartiger Herausforderungen. Anders als bei Smartphone-Apps oder Web-Diensten gibt es in Automobilsystemen keinen Spielraum für Fehler. Ein kleiner Fehler im Brems- oder Lenkalgorithmus kann katastrophale Folgen haben.

Ganz oben auf der Liste der Anliegen stehen Sicherheit und Determinismus. KI-Modelle, insbesondere solche, die auf maschinellem Lernen basieren, sind nicht immer vorhersehbar. Sie »lernen« Muster. Das macht sie zwar leistungsfähig, aber es ist auch schwierig zu garantieren, dass sie jedes Mal gleich reagieren. Aber für ein System wie die Notbremsung ist Vorhersagbarkeit unerlässlich.

Dann ist da noch die Frage der Sicherheit: KI-Modelle sind überraschend anfällig für Angriffe. Kleine Veränderungen an Verkehrszeichen wie Aufkleber oder Graffiti können eine bildbasierte KI verwirren und dazu führen, dass sie ein Stoppschild beispielsweise als Geschwindigkeitsbegrenzung interpretiert. Nicht zu vergessen sind die Hardware-Beschränkungen von Fahrzeugen.

Im Gegensatz zu Cloud-Servern sind Fahrzeuge von Embedded-Systemen abhängig, die strikten Strom- und Speicherbeschränkungen unterliegen. Wie betreibt man ein riesiges neuronales Netzwerk auf einem Chip, der ins Armaturenbrett passt und die Batterie nicht leer saugt?

Safety-First-Architekturen

Es gibt verschiedene Mechanismen, die KI-Systeme sicherer und vorhersehbarer machen:

Durch Model Freezing bleibt die KI nach dem Training unverändert, was ein einheitliches Verhalten aller Fahrzeuge gewährleistet.
Regelbasierte Schutzeinrichtungen übersteuern KI-Entscheidungen mit fest programmierten Sicherheitsvorgaben wie Geschwindigkeitsbegrenzungen oder Zwangsbremsung.
Redundanz- und Abstimmungssysteme ermöglichen es, dass mehrere Modelle parallel laufen und nach dem Mehrheitsprinzip entscheiden, wodurch das Risiko von Ausfällen an einer einzelnen Stelle verringert wird.

Um KI sicher und zuverlässig in Fahrzeuge zu integrieren, haben Ingenieure einige kreative und hochtechnische Lösungen entwickelt:

Eine weit verbreitete Strategie ist die Modelloptimierung. Durch das »Ausdünnen« eines neuronalen Netzes – also das Entfernen unnötiger Teile – wird das System schlanker und schneller, ohne an Genauigkeit einzubüßen. In ähnlicher Weise reduziert die Quantisierung die Genauigkeit der Berechnungen und spart so Energie und Rechenzeit. Diese Techniken, die bereits in den Mars-Rovern der NASA zum Einsatz kamen, werden nun auch in unseren Autos eingesetzt.

Eine weitere Innovation ist der Einsatz spezieller Hardware wie Tensor Processing Units (TPUs) und Neuro Processing Units (NPUs). Diese Chips wurden speziell für die parallele Datenverarbeitung entwickelt, die KI benötigt. Im Auto übernehmen sie Echtzeitaufgaben wie die Auswertung von Lidar-Daten und die Spurerkennung, ohne das System zu überhitzen oder zu viel Strom zu verbrauchen.

KI-Systeme sicherer machen

Um Sicherheitsstandards wie die ISO 26262 zu erfüllen, müssen KI-Systeme vorhersehbar funktionieren und dies auch nachweisen können. Hier kommen Konzepte wie Model Freezing ins Spiel. Sobald ein KI-Modell trainiert ist, wird es gegen weiteres Lernen oder Veränderungen gesperrt. Das bedeutet, dass jedes Fahrzeug mit exakt derselben Version fährt, was für Konsistenz sorgt. Es gibt also keine Autos mit unterschiedlichen Persönlichkeiten auf der Straße.

Außerdem fügen die Ingenieure regelbasierte Absicherungen hinzu – einfache, fest programmierte Regeln, die die KI außer Kraft setzen können. So wird zum Beispiel unabhängig von den Vorhersagen des Modells sichergestellt, dass das Auto nicht die Geschwindigkeitsbegrenzung überschreitet oder bei Rot über die Ampel fährt. Diese Schutzmechanismen dienen als Sicherheitsnetz in unsicheren Situationen.

Eine weitere wichtige Komponente ist die Verifizierung. Die KI in Fahrzeugen wird strengen Tests unterzogen, darunter Millionen simulierter Fahrszenarien. Erklärbare KI-Tools (XAI) helfen Ingenieuren zu verstehen, warum die KI eine bestimmte Entscheidung getroffen hat, was bei der Untersuchung von Sicherheitsvorfällen oder bei Konformitätsprüfungen von entscheidender Bedeutung ist. Ultrazuverlässige Systeme nutzen Redundanz und Abstimmungsmechanismen. Man stelle sich drei verschiedene KI-Modelle vor, die alle dieselbe Situation analysieren. Das System entscheidet sich für die Mehrheitsentscheidung und schützt sich so vor falschen Vorhersagen eines einzelnen Modells.

Hierbei handelt es sich nicht nur um Experimente im Labor, im Gegenteil setzen erste Unternehmen diese Innovationen bereits ein:

Waymo setzt auf Edge-optimierte KI-Modelle, um sicher durch dicht bebaute Städte wie Phoenix und San Francisco zu navigieren.
Nvidia Drive nutzt Modelloptimierungstechniken wie Pruning, Quantisierung und Model Freezing, um die Effizienz und Zuverlässigkeit zu verbessern.
BMW verwendet KI für die vorausschauende Wartung, um frühzeitig Anzeichen von Motorproblemen zu erkennen, bevor es zu einem Ausfall kommt.

Was kommt als nächstes?

Die Zukunft der KI in der Automobilindustrie sieht vielversprechend aus. Bis 2030 wird voraussichtlich die Mehrheit der Embedded-Fahrzeugsysteme in irgendeiner Form KI integrieren. Leichte KI-Modelle wie TinyML werden Einzug in erschwingliche Autos halten und intelligentere Infotainment- und Fahrerassistenzfunktionen ermöglichen.

Gleichzeitig entwickeln sich die Regulierungsbehörden weiter und arbeiten an Rahmenbedingungen, die den besonderen Risiken und Vorteilen der KI Rechnung tragen. Am spannendsten ist vielleicht, dass wir eine bessere Zusammenarbeit zwischen KI und Mensch erleben werden, bei der der Fahrer auf dem Laufenden bleibt und KI-Entscheidungen verstehen und gegebenenfalls überstimmen kann.

KI verändert nicht nur die Art und Weise, wie Autos gebaut werden. Sie definiert das Konzept des Fahrens neu. Mit immer intelligenteren Fahrzeugsystemen zeigt die Industrie, dass es möglich ist, Innovation mit Sicherheit und Zuverlässigkeit zu verbinden. Auch wenn wir das Steuer an die KI übergeben, bestimmt der menschliche Einfallsreichtum weiterhin die Richtung. Diese Kombination führt in eine Zukunft der sicheren und intelligenten Mobilität.

Literatur

Parasoft Automotive Blog: https://www.parasoft.com/blog/why-automotive-cybersecurity-is-important/