Autonomes Fahren und Ethik Auf die Werte kommt es an

Systeme müssen ethische Entscheidungen treffen

Gerne werden Beispiele genannt, in dem das System vor einem Dilemma steht: Entweder überfährt das Auto ein Kind oder einen älteren Menschen. Wie soll es sich entscheiden?

Das sind konstruierte Beispiele. Es gibt einfach ein paar ethische Grundsätze. Das Leben der Insassen muss geschützt werden, Unbeteiligte dürfen nicht geschädigt werden. Leben darf nicht gegen Leben aufgerechnet werden. Ich bin mir sicher, dass die Zahl der Unfälle stark zurückgeht, ganz vermeiden lassen sich Unfälle aber auch mit KI nicht.

Die Anwender würden Ihrer Meinung nach solche Systeme geradezu fordern, erst dann könne wirklich von autonomem Fahren gesprochen werden. Warum?

Weil erst dann der Mensch das Gefühl hat, dass das Auto sich autonom verhält. Ein einfaches Beispiel: Auf einer steilen, kurvenreichen Bergstraße fährt vor Ihnen ein Fahrradfahrer. Kein Autofahrer würde nun die ganze Strecke hinter dem Fahrradfahrer herzockeln. Das KI-System muss also über eine Situationsanalyse feststellen, wann überholt werden kann. Ein gewisses Risiko ist dabei vorhanden, das System muss entsprechend der vorgegebenen Werte eine ethische Entscheidung treffen. Dabei kann eine Maschine genauso ethisch falsch handeln wie ein Mensch. Der Mensch sollte aber entscheiden können, ob sich das Auto etwas risikoreicher oder weniger risikoreich verhalten sollte. Genauso wie der Mensch entscheiden soll, ob er einen sportlichen oder einen normalen oder einen sehr sicherheitsbewussten Fahrstil bevorzugt. Voraussetzung dafür ist, dass wir uns innerhalb der Gesellschaft darauf einigen können, was gewollt ist und was nicht, wie die Werte also genau definiert werden sollen.

Wie bereits angesprochen macht schon die Objekterkennung große Schwierigkeiten. Sehen Sie Ansätze, wie sie sich verbessern lässt?

Derzeit lernen die Systeme anhand von statischen Bildern. Es wäre aber viel besser, auf Basis von bewegten Bildern zu lernen, auf Basis der Umrisse eines Objekts. Dann spielt die Oberfläche wie etwa die Haut eines Elefanten oder das Fell einer Katze nicht die größte Rolle. Auch biologische Systeme lernen ja nicht über statische, sondern über bewegte Bilder. Da braucht man wiederum eine sehr hohe Rechenleistung, aber Convolutional Neuronal Nets können das durchführen, da geht schon einiges in die richtige Richtung. Zudem können verschiedene KI-Module für verschiedene Aufgaben genutzt werden. Ein Beispiel dafür ist die Analyse von Röntgenaufnahmen. Ein erstes Modul betrachtet das gesamte Bild und erkennt die Stellen, die sich krankhaft verändert haben. Ein zweites Modul analysiert genau diese Stelle und ein drittes stellt die Diagnose. Das hat zudem den Vorteil, dass der ganze Vorgang nachvollziehbarer wird, weil sich nachverfolgen lässt, was genau von einem Modul zum anderen übergeben wurde.

Die Entwicklung von KI-Systemen ist so komplex, dass ein OEM nicht alles selber durchführen kann. Im Moment aber scheint genau das der Fall zu sein.

Ja, es ist so wie immer in der Anfangsphase einer neuen Technik: Die großen Firmen, die Automobilhersteller, versuchen zunächst einmal alles selber zu machen, jeder will der erste sein und alle forschen parallel an den gleichen Problemen. Erst später stellt sich die Entwicklung ein, dass vieles außer Haus gegeben wird und dass sich die Wettbewerber spezielle Sektoren untereinander aufteilen können. Meiner Meinung wäre das aber erforderlich, um die KI und das autonome Fahren insgesamt effizient voranzutreiben. Einer konzentriert sich beispielsweise auf die Objekterkennung, ein anderer auf die geometrische Einordung. Oder dies wird ganz an Drittfirmen vergeben.

Was wäre für den Kern einer Marke künftig wichtig, was müsste der OEM selber machen?

Früher war der Motor der Kern des Autos, aber selbst auf diesem Gebiet haben sich ja vielfältige Kooperationen zwischen den OEMs gebildet. Jetzt bildet die Funktion des Fahrers den neuen Kern des Autos, die Software ist entscheidend. Ein Auto muss sich beispielsweise flexibel verschiedenen Fahrstilen anpassen können. Ein Nutzer mag Wert an der Freude am Fahren legen, ein anderer mag es sportlich, ein dritter vor allem sicher. Sich darauf einstellen zu können und bestimmte Fahrstiele anbieten zu können, das dürfte zum Kern der Marke werden und darüber können sich die OEMs differenzieren.