Datenschutz in automatisierten Autos Maschine überwacht Maschine, der Mensch kontrolliert

NTT Security fordert die Einrichtung von V-SOCs als Standard für Connected Cars und autonome Fahrzeuge. (Quelle: Fotolia)
Spezielle Sicherheitsalgorithmen sollen wie ein doppelter Boden die Entscheidungen autonomer Systeme im Auto überwachen und Datenschutz bieten.

Welche Daten nutzt künstliche Intelligenz für autonomes Fahren und wer prüft die Algorithmen? Können Connected-Car-Dienste und Datenschutz konform sein? Das Forschungsprojekt „Secredas“ soll Sicherheit und Vertrauen in ADAS-Systeme stärken und dem Fahrer Kontrolle über persönliche Daten geben.

Fragen wie „Ist die Ampel rot?“ oder „Kreuzt ein anderes Fahrzeug die Strecke?“ werden in selbstfahrenden Autos von Algorithmen und neuronalen Netzen beantwortet. Welche Daten und auf welche Weise diese für die Entscheidung herangezogen werden, kann der Fahrer dabei nicht exakt nachvollziehen. Ebenfalls nicht transparent ist bisher, wie Connected-Car-Services Nutzerdaten verwenden. Die persönliche Sitzposition, Favoriten im Navigationssystem oder die Lieblingsmusik zählen eher zu den kleinen Bedenken – ernste Datenschutzfragen kommen, wenn das Auto auch Daten wie den Blutzuckerspiegel oder die Herzfrequenz erfasst. Sei es, um die Fahrtauglichkeit zu prüfen oder den Notruf zu wählen. Der Fahrer weiß meist nicht, ob die Daten im Auto bleiben oder was in der Cloud mit ihnen passiert. Das wollen Forscher jetzt ändern.

Das Vertrauen in vernetzte und automatisierte Mobilität in puncto Sicherheit und Datenschutz zu stärken, ist Ziel des Projekts „Product security for cross domain reliable dependable automated systems“, kurz Secredas. 69 Partner aus 16 europäischen Ländern, darunter das Fraunhofer-Institut für Experimentelles Software Engineering IESE in Kaiserslautern, sind daran beteiligt. Die EU finanziert 15 Millionen Euro des Projekts mit einem Gesamtvolumen von 51,6 Millionen Euro. Das Forscherkonsortium arbeitet an zwei Bausteinen: Der „Safety Supervisor“ ist auf Sicherheit ausgelegt und soll die Entscheidungen neuronaler Netze live überwachen. Das „Ind²uce“-Framework will Vertrauen stärken und soll in einen Standard für die Datennutzungskontrolle im Auto münden.

Sicherheit selbstfahrender Autos erhöhen

Die Situationserkennung neuronaler Netze auf Basis von Technologien wie 3D, LIDAR, Radar oder auch der V2X-Vernetzung macht enorme Fortschritte, automatisierte Fahrzeuge rollen in Testfahrten mittlerweile hunderte Kilometer sicher und ohne menschliches Eingreifen über die Straßen. Doch wer kontrolliert die Algorithmen der künstlichen Intelligenz?

Bosch hat Mitte Februar mit einem angekündigten KI-Index um Vertrauen für KI-Produkte geworben. Ohne menschliche Kontroll­instanz soll kein Produkt des Automobilzulieferers über Menschen entscheiden dürfen. Bosch schränkt dabei ein, dass bei einem Notbremsassistenten der Mensch nicht mehr eingreifen könne. Aber auch hier kündigte das Unternehmen an, Parameter festzulegen und zu überprüfen, ob sich das Auto daran hält.

Auf genau diesen Parametern liegt der erste Fokus im Segredas-Projekt. „Wir entwickeln den Safety Supervisor, um Entscheidungen des neuronalen Netzes live zu überwachen und notfalls regulierend eingreifen zu können“, erklärt Mohammed Naveed Akram, Wissenschaftler am Fraunhofer IESE. „Der Supervisor macht sich dabei klassische Ansätze der Algorithmen zunutze und schaut auf die kritischen Eckpunkte, um geeignete Metriken zu finden“.

Wenn die KI an einer Kreuzung die Ampelschaltung, Vorfahrtsregeln, Fußgänger und andere Autos beachtet, schaut der „Safety Supervisor“ auf Parameter wie die Zeit bis zu einem möglichen Zusammenprall. Er bezieht die Trajektorie und voraussichtliche Kollisionsgeschwindigkeit ein, um die Schwere des Schadens zu schätzen. Sollte das Auto auf ein Hindernis zusteuern, welches die KI übersehen hat, erkennt der Safety Supervisor den schrumpfenden Abstand. Er kann das Kommando übernehmen und abbremsen, falls die autonome Steuerung versagt. Die Simulation der Metriken in verschiedenen Gefahrensituationen verlief bisher vielversprechend. „Der Ansatz, die neuronalen Netze über klassische Ansätze live zu überprüfen, kann zusammen mit einem dynamischen Risikomanagement die Sicherheit deutlich erhöhen“, sagt Akram.

Kontrolle über Connected-Car-Daten

Sollen auf dem Handy eingehende Nachrichten im Autodisplay angezeigt werden, außer ein Beifahrer ist an Bord? Können im Mietwagen die Kontakte und Playlists wie im eigenen Auto abrufbar sein? Sind die in­dividuellen Einstellungen für Sitz, Lenkrad und Spiegel übertragbar? Können Gesundheitsdaten ausschließlich lokal im Auto gespeichert werden, es sei denn, es muss dringend Hilfe gerufen werden? Bei wem liegt die Datenhoheit, wird der Datenschutz eingehalten und wie kann der Fahrer die Nutzung seiner Daten kontrollieren? Der ADAC forderte in einem Pressestatement zur EU-Digitalreform Ende Februar sehr deutlich ein Mitspracherecht für Autofahrer bei der Verwendung der Daten und klare gesetzliche Regelungen. Das Secredas-Forscherteam entwickelt für die praktische Umsetzung dieser Fragen das Ind²uce-Framework. Der Nutzer kann damit über eine App je nach Situation und Belieben selbst einstellen, welche Daten er wie und wohin übertragen lassen möchte (Bild).

Diese Privatsphären-Einstellungen können via Smartphone aus dem ei­genen Auto auch in Dienstwagen, Mietfahrzeuge oder Sharing-Mobile übertragen werden. Möchte das jeweilige Auto etwa die Herzfrequenz des Fahrers an eine Cloud senden, läuft diese Anfrage zunächst über einen „Policy Decision Point“ (PDP). Im Falle einer Freigabe sendet der PDP die Informationen und entscheidet, welche Datenteile vor dem Verschicken gelöscht oder anonymisiert werden. Den Prototyp des Frameworks wollen die Kaiserslauterner Forscher des IESE Ende 2020 fertigstellen heißt es.

Das langfristige Ziel der Secredas-Ini­tiative ist, einen Standard für die Datennutzungskontrolle im Auto zu etablieren, den möglichst alle Autohersteller übernehmen. Der Datenschutz und die informationelle Selbstbestimmung der Autofahrer wären damit europaweit sichergestellt.