„Connecting Embedded Intelligence“
Safety und Security – nicht nur eine technische Herausforderung
Fortsetzung des Artikels von Teil 1
Embedded Safety und Security bleiben Schwerpunkte ...
Aktuelle Vorschläge gehen soweit, dass nur ein KI-System in der Lage ist, einen sicherheitskritischen KI-Algorithmus zu überwachen. Die Vorstellung, dass Alexa oder Siri einen Flieger oder ein autonom navigierendes Fahrzeug sicherheitstechnisch überwachen, in dem ich gerade sitze, erzeugt zumindest bei mir ein gewisses Unbehagen. Wenn schon der Mensch die Komplexität solcher Systeme nicht beherrscht – oder aus Kostengründen nicht beherrschen will, wie aktuelle Beispiele wie etwa das MCAS-System von Boeing zeigen –, wie soll es dann eine vom Menschen erzeugte KI schaffen?
Neben diesen technischen Fragen ergeben sich zusätzliche und neue Herausforderungen in Richtung Ethik und Haftung. Darf ein Algorithmus entscheiden, wen ein Fahrzeug in einer Gefahrensituation überfährt und wem es ausweicht? Während sich ein Autofahrer in einer solchen Situation auf den sogenannten „Entscheidungsnotstand“ berufen kann, greift diese Argumentation bei einem intelligenten Algorithmus eher nicht – die Verantwortlichkeiten sind aus Sicht vieler Juristen noch nicht abschließend geklärt.
Eine noch größere Herausforderung ist der Bereich Informationssicherheit oder Security. Immer mehr eingebettete Systeme haben eine Schnittstelle in die Cloud, über die Parametrisierungen und Updates des Systems vorgenommen werden können. Gerade bei komplexen Systemen sind diese Schnittstellen unbedingt notwendig, damit bei einem Fehlerfall schnell ein Update eingespielt werden kann. Es ist zu erwarten, dass solche Over-the-air-Updates bei zukünftigen intelligenten Systemen noch stärker an Bedeutung gewinnen werden, da immer mehr Fehler erst im Feld erkannt werden können.
Hinzu kommt der Trend, rechenintensive Aufgaben vom Embedded-System in die Cloud auszulagern und die Ergebnisse dieser Rechenoperationen für die Steuerung kritischer Komponenten zu nutzen.
Leider bieten diese Schnittstellen eine mögliche Angriffsfläche für Hacker, die im Worst case darüber komplette Flotten oder Industrieanlagen manipulieren können. Besonders kritisch wird es, wenn über eine solche Schnittstelle in sicherheitskritische Funktionen eingegriffen werden kann. Das bedeutet, dass der Informationssicherheit in Zukunft ein deutlich höherer Stellenwert eingeräumt werden muss und Security eine wesentliche Architekturanforderung von Beginn an sein wird.
Moderne Mikrocontroller verfügen daher zunehmend über hardwarebasierte Kryptographiemodule. Mithilfe dieser Funktionen können für offene intelligente Systeme Security-Konzepte entwickelt werden, die einen Angriff erschweren und die negativen Auswirkungen eingrenzen. Aktuelle Analysen zeigen jedoch: Solche Systeme können nur wenige Jahre als sicher betrachtet werden, bis eine Schwachstelle gefunden und ausgenutzt wird. Dieser gelingt leider meist schneller, als es die Lebenszeit eines Produktes verlangen würde. Gleichzeitig tauchen am Horizont erste Berichte über Quantencomputer auf, die die heuten Security Konzepte vielleicht sehr schnell sehr alt aussehen lassen können. Auch wenn nicht zu erwarten ist, dass eine solche Hardware in den nächsten Jahren vom Hacker um die Ecke erworben werden kann – gerade im Bereich der Industrieanwendungen gibt es leider auch staatliche Institutionen, die nicht immer nur Gutes im Sinne haben.
Sowohl für funktionale Sicherheit als auch für Informationssicherheit gilt: Beides ist von Beginn an zu berücksichtigen, ein System im Nachhinein „sicher zu machen“ wird nicht klappen.
Auch im kommenden Jahr werden die Themen Embedded Safety und Security Schwerpunkte auf der embedded world Conference in Nürnberg sein. Namhafte Spezialisten und Forscher stellen aktuelle Trends und zukunftsgerichtete Entwicklungen vor, die in Zeiten von „Connecting Embedded Intelligence“ weiterhin an Bedeutung gewinnen! ■
Jobangebote+ passend zum Thema
- Safety und Security – nicht nur eine technische Herausforderung
- Embedded Safety und Security bleiben Schwerpunkte ...
Lesen Sie mehr zum Thema
