Interview mit Prof. Jana Köhler, DFKI

»Immer dann wenn es funktioniert, dann ist es keine KI mehr«

24. Februar 2020, 14:26 Uhr | Gerhard Stelzer

Prof. Dr. Jana Köhler ist Inhaberin des Lehrstuhls für Künstliche Intelligenz an der Universität des Saarlandes und wissenschaftliche Direktorin der Abteilung Algorithmic Business and Production am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI).

Künstliche Intelligenz ist auf der Embedded World 2020 eines der beherrschenden Themen. Prof. Dr. Jana Köhler vom DFKI wird passend dazu am Student Day die Keynote »Artificial Intelligence – The Next Twenty Years« halten. Wir haben vorab mit der renommierten KI-Expertin gesprochen.

Frau Prof. Köhler, wo stehen wir derzeit bei Künstlicher Intelligenz? Und worauf dürfen wir uns in den nächsten zwei Jahrzehnten freuen?
Prof. Dr. Jana Köhler: Hoffentlich auf viele gute Anwendungen, die uns helfen, unsere aktuellen Herausforderungen erfolgreich zu meistern. Es ist uns inzwischen wohl allen bewusst, dass wir uns an das sich verändernde Klima anpassen müssen. Auch müssen wir endlich konsequent Ressourcen einsparen und auf geschlossene Stoffkreisläufe umstellen. In der Medizin erwarte ich sehr interessante Durchbrüche in den unterschiedlichsten Bereichen, insbesondere was die personalisierte Diagnostik und Therapie verschiedener Krankheiten angeht.

Ihr Kollege Prof. Dr. Martin Ruskowski hat auf unserem Forum Künstliche Intelligenz im letzten Jahr provokant formuliert »Neuronale Netze sind strohdumm« und spielte damit darauf an, dass KI heute meist nur auf eine bestimmte Anwendung trainiert wird. Wann und wie wird KI wirklich intelligent?
Köhler: Es gab unter den KI-Forschern immer den Spruch »immer dann wenn es funktioniert, dann ist es keine KI mehr«, weil wir dann verstehen, wie ein Problem gelöst werden kann und damit dieses Mystische, das mit dem Begriff der Künstlichen Intelligenz verbunden wird, verschwunden ist. Wenn sie mit »wirklich intelligent« auf den Begriff der allgemeinen künstlichen Intelligenz abzielen, dann erwarte ich eher, dass dies entweder in sehr ferner Zukunft oder nie passieren wird, da entsprechende Regulierungen hier greifen werden. Ich persönlich bin der Meinung, dass wir nicht unbedingt Wesen schaffen sollten – ob natürlich oder künstlich – die uns genau ebenbürtig sind oder sogar allgemein überlegen sind. Wir sollten künstliche Intelligenz nutzen, um Maschinen zu schaffen, die uns helfen, unsere Probleme zu lösen und unsere Welt weiter zu verbessern.

Sie sind seit November 2019 Wissenschaftliche Direktorin für den neugegründeten Forschungsbereich »Algorithmic Business and Production«. Was waren die Hintergründe, diesen Forschungsbereich ins Leben zu rufen?
Köhler: Der Forschungsbereich beschäftigt sich mit der intelligenten Analyse und Optimierung geschäftlicher und technischer Prozesse. Unsere heutigen Produktionsmethoden oder auch Abläufe in der Logistik sind noch viel zu ineffizient. Wir verbrauchen zu viele Ressourcen, wir arbeiten nicht wirklich umweltverträglich und sind oft nicht anpassungsfähig genug. Mit modernen Optimierungsmethoden aus der KI können sehr komplexe Probleme gelöst werden. So können wir Material sparen, den Energieverbrauch reduzieren und auch flexiblere Lösungen entwickeln, bei denen sich Maschinen oder Prozesse selbständig an neue Bedingungen anpassen. Diese Methoden helfen uns auch, Maschinen zu bauen, die sich selbst optimal steuern und in der kundenindividuellen Fertigung sehr flexibel Produktvarianten herstellen können, ohne dass wir hohe Umrüstkosten und -zeiten aufwenden müssen.

Mit welchen Problemstellungen beschäftigen Sie und Ihr Team sich momentan?
Köhler: Im Moment arbeiten wir unter anderem an zwei technischen Fragestellungen. Einerseits geht es darum, eine Lösung zur automatisierten Fertigung von Kabelbäumen durch intelligente Maschinen noch um weitere KI Techniken zu erweitern. Bereits jetzt können wir sehr gut die Steuerung dieser Maschinen durch sogenannte CP-SAT-Solver berechnen. In den letzten Jahren hat jedoch auch das Gebiet des Reinforcement Learning enorme Fortschritte gemacht, bei dem eine Maschine durch Erfahrung und dem Experimentieren in einer Umgebung lernt. Für uns ist es sehr spannend herauszufinden, ob man auch in einem Simulationsmodell durch Lernen und Ausprobieren eine Steuerung quasi »sich selbst entwickeln lassen kann«, die dann zuverlässig auf einer wirklichen Maschine in der realen Welt läuft. Auch frage ich mich, wie wir es einfacher machen können, diese Simulationsumgebungen zu entwickeln. Neben industrieller Optimierung interessieren mich auch Themen wie zum Beispiel die intelligente Steuerung von Aufzügen mit mehreren autonomen Kabinen in einem Schachtsystem oder aber auch Fragen aus der medizinischen Forschung und Diagnostik, wenn zum Beispiel Diagnoseverfahren individuell geplant oder auch Behandlungsverfahren in ihren Prozessen optimiert werden sollen.

KI gilt als vielversprechender Kandidat, um aus Big Data nützliche Informationen zu extrahieren. Leider kann das Ergebnis nur so gut sein wie das Training. Wie lässt sich »Shit in, shit out« vermeiden?
Köhler: Wir müssen Methoden entwickeln, um die implizite Abhängigkeit von den Trainingsdaten besser zu verstehen. Wir wissen zwar, dass die Qualität der Trainingsdaten ganz entscheidend ist, aber wir können noch immer nicht genau sagen, in welchem trainierten Bereich sich zum Beispiel ein neuronales Netz zuverlässig verhält und was in einer Anwendung passieren muss, damit wir den trainierten Bereich verlassen. Dies ist aber unbedingt notwendig, um Systeme zuverlässig in der realen Welt einsetzen zu können, die sich ja ständig verändert und dem Training immer einen Schritt voraus sein wird.

Lassen Sie uns dieses Problem auf den Anwendungsfall Autonomes Fahren übertragen: Beim Training von KI lassen sich heute in der Objekterkennung und –klassifizierung Trefferraten jenseits der 99,9 Prozent erzielen. Wenn man es im Verkehr aber z.B. mit einer Million Fahrzeugen zu tun hat, heißt das, dass immer noch 1000 Fehler auftreten. Wie kann man dieses Problem in den Griff bekommen?
Köhler: Letztendlich wird man dieses Problem niemals perfekt in den Griff bekommen, da sich ja die reale Welt permanent verändert. Insofern ist auch mit einem perfekt trainierten System das System immer ein klein bisschen hinter der Realität zurück. Natürlich können wir durch zusätzliche Sicherungsmaßnahmen in der Infrastruktur viele Fehlerquellen insbesondere beim autonomen Fahren deutlich reduzieren, indem wir die Umgebung kontrollierter gestalten (denken Sie an Ampelsysteme an Kreuzungen oder Kreisel), aber letztendlich müssen wir uns auch klar machen, dass Maschinen wie wir auch Fehler machen werden und auch die intelligenteste Maschine niemals perfekt sein wird, wenn wir sie auf die volle Komplexität unserer Welt loslassen.

Generell ist das Blackbox-Verhalten von trainierter KI (Machine Learning) ein Hemmschuh für sicherheitskritische Anwendungen wie einem hochautomatisierten Fahrzeug. Welche Ansätze sehen Sie zur Validierung und Verifikation von KI?
Köhler: Das kommt sehr auf die eingesetzten KI-Verfahren an. Gerade beim maschinellen Lernen mit neuronalen Netzen sind die Transparenz und die Zuverlässigkeit noch eine große Herausforderung und es müssen noch viele Probleme gelöst werden. Andere Verfahren, wie die CP-SAT-Solver, die ich zum Beispiel für Optimierungsprobleme einsetze, haben diese Probleme nicht. Wenn sie zum Beispiel eine optimale Produktionssteuerung berechnen, kann ihnen der Solver sehr genau sagen, ob die von ihm vorgeschlagene Lösung optimal ist oder nicht. Diese Algorithmen basieren auf transparenten Modellen und haben mathematisch bewiesene Eigenschaften.

Bei welchen weiteren Anwendungen über Autonomes Fahren hinaus sehen Sie noch Potenzial für den Einsatz von KI im Automobil?
Köhler: Ich denke, wir sollten uns weniger auf das Fernziel autonomes Fahren konzentrieren als vielmehr auf Assistenzsysteme, die Menschen entlasten und für mehr Sicherheit sorgen, so wie dies ja bereits auch in der Automobilindustrie passiert. Nehmen sie nur zum Beispiel den Sicherheitsgurt oder den Airbag. Hier steckt auch schon etwas Intelligenz drin und sie half, die Folgen von Unfällen drastisch zu reduzieren. Heute machen Rückfahrsensoren das Parken sicherer. Hier können wir uns natürlich weitere interessante Lösungen überlegen, zum Beispiel indem Autos automatisch Sicherheitsabstände einhalten oder durch einfache Kommunikation anderen Fahrzeugen mitteilen, was sie als nächstes vorhaben, zum Beispiel, dass sie überholen wollen oder dass sie jetzt abbiegen. Unfälle, in denen menschliche Fahrer andere Fahrzeuge übersehen oder ihr Verhalten falsch einschätzen, können so reduziert werden.
Frau Prof. Köhler, wir danken für das Gespräch.
Das Interview führte Gerhard Stelzer.

Veranstaltungshinweis: Student Day 2020

Am 27.02.2020 startet um 9:30 der Embedded World Student Day auf der Nürnberg Messe im NCC Mitte, Saal Brüssel, mit folgenden Beiträgen:

Vortrag von Prof. Dr.-Ing. Dipl.-Ing. Dipl. Wirt.-Ing. Axel Sikora, Hochschule Offenburg/Hahn-Schickard, Messebeiratsvorsitzender embedded world: Vortrag zur »embedded world Exhibition&Conference 2020« sowie zur Embedded-Systems-Branche
Keynote von Prof. Dr. Jana Köhler, Scientific Director, Algorithmic Business and Production, Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI): »Artificial Intelligence - The Next Twenty Years«

Prof. Dr. Jana Köhler

ist Inhaberin des Lehrstuhls für Künstliche Intelligenz an der Universität des Saarlandes und wissenschaftliche Direktorin der Abteilung Algorithmic Business and Production am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Sie studierte an der Humboldt Universität Berlin Informatik und Philosophie der Wissenschaft. Anschließend promovierte Köhler an der Universität des Saarlandes. Von 1990 bis 1996 arbeitete sie am DFKI und habilitierte an der Albert-Ludwigs-Universität Freiburg. Weitere berufliche Stationen waren die Schindler AG und IBM Research Zürich. Von 2010 bis 2019 lehrte sie als Professorin für Informatik an der Hochschule Luzern. Sie ist Trägerin zahlreicher Auszeichnungen und Mitglied der Gesellschaft für Informatik sowie Life-Member der Association for the Advancement for Artificial Intelligence (AAAI).