Autonomes Fahren und Ethik Auf die Werte kommt es an

Auto muss auch nach Auslieferung dazu lernen

Welche Rolle spielen dabei ethische Überlegungen?

Eine zentrale Rolle, denn das Auto wird im Rahmen aller Fahrstile in Situationen kommen, wo es anhand der von der Gesellschaft festzulegenden Werte entscheiden muss, was zu tun ist. Ich könnte mir vorstellen, dass es im Rahmen der Situationsanalyse zur Entwicklung bestimmter Ethik-Module kommt, die diese Aufgabe übernehmen. Weil unterschiedliche Gesellschaften unterschiedliche Wertesysteme haben, werden sich diese Module von Land zu Land unterscheiden. In Asien werden sie anders sein als in Europa und den USA, sie können sogar von Land zu Land verschieden sein.

Es geht also nicht nur darum, dass das Auto sich in komplexen Situationen zurechtfinden muss, es muss auch auf die Wünsche der jeweiligen Mitfahrer eingehen und mit ihnen kommunizieren können und es muss sogar ethische Entscheidungen treffen. Das klingt überaus komplex.

Und ist nur zu realisieren, wenn das Auto auch nach der Auslieferung noch lernt.

Was schon rechtlich ein Problem werden dürfte, weil man ja nicht genau wissen kann, ob die Software dann wirklich so wie vorgesehen funktioniert. Heute darf doch an vielen Stellen im Nachhinein nichts mehr geändert werden, nachdem die entsprechenden Funktionen zertifiziert sind.

Daran werden wir uns aber gewöhnen müssen, das ist einer der großen Umbrüche, die die KI bringen wird: Die Nutzer benötigen die Flexibilität und die Zusatzfunktionen, die mit dem rein technischen Fahren nichts zu tun haben. Was unmittelbar sicherheitsrelevant für den Fahrablauf ist, darf nicht geändert werden. An allen anderen Stellen kann und muss gelernt werden, damit autonome Systeme überhaupt möglich werden. Das gilt selbstverständlich nicht nur für Autos, es gilt überall in der KI, beispielsweise auch für die Automatisierung im Bereich Human Resources.

Wenn beim Einkauf eines HR-Systems noch nicht bekannt ist, was genau es nach einer bestimmten Zeit des Lernens tun wird, dann kann das schon zu Konflikten führen. Denn wenn etwa die Gewerkschaften mitbestimmen wollen, ob ein solches System in einem sensiblen Bereich angeschafft werden soll, dann können sie genauso wenig wie das Management wissen, was das System in Detail einmal tun wird und ob das dann noch konform zu den eigenen Vorstellungen ist. Andererseits wäre es vollkommener Unsinn, ein lernfähiges System nicht lernen zu lassen. Es taucht also ein Gegensatz zwischen Selbstbestimmung und Mitbestimmung auf, den es bisher so nicht gegeben hat.

Die Integra-Stiftung wird am 15./16. November dieses Jahres ein Zukunftssymposium in Stuttgart durchführen. Dabei werden in einer öffentlichen Diskussion Torben Albrecht, Bundesgeschäftsführer der SPD, der die Position der Mitbestimmung vertritt, und Prof. Joachim Fetzer, Deutsches Netzwerk Wirtschaftsethik, der die Position der Selbstbestimmung vertritt, ihre Argumente austauschen. Es wird sicher sehr interessant werden, dieses Streitgespräch zu verfolgen.