Forschungsprojekt des DFKI Deep Learning soll zuverlässiger werden

Ein »pi4_workerbot« hält Jonglierbälle in die Luft.
Ein »pi4_workerbot« hält Jonglierbälle in die Luft.

Wissenschaftler des DFKI wollen Deep-Learning-Verfahren mit formalen Rechenverfahren kombinieren und so verlässlicher machen. Hierfür bringen sie einem Roboter das Jonglieren bei – er soll berechnete Bewegungsabläufe ausüben und zugleich schnell über die nächste Armbewegung entscheiden können.

Wenn Menschen vor einem Problem stehen, können sie dieses entweder logisch und mit Ruhe betrachten - oder spontan und emotional entscheiden. Ähnlich geht es dem Computer: Moderne Deep-Learning-Verfahren liefern dank ihres Trainings mit großen Datenmengen schnelle Ergebnisse, die jedoch nicht nachprüfbar sind. Wissenschaftler des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) untersuchen nun, wie sich diese Ergebnisse durch formale Verfahren überprüfen lassen und so verlässlicher werden – ohne das Deep Learning zu verlangsamen. Die neue Methode soll unter anderem anhand eines jonglierenden Industrieroboters getestet werden. Gefördert wird das Projekt „Fast&Slow“ vom Bundesministerium für Bildung und Forschung (BMBF) mit rund 1,2 Millionen Euro.

Wie lässt sich das Jonglieren besser erlernen: Durch Beobachten und Ausprobieren oder durch langwieriges Planen der einzelnen Handbewegungen und Würfe? Dem Psychologen Daniel Kahneman zufolge stecken dahinter die beiden Systeme, die das menschliche Denken bestimmen – das schnelle, emotionale und unbewusste Entscheiden oder das langsame, logische und berechnende. Obwohl Computer nach wie vor weit davon entfernt sind, das menschliche Denkvermögen in seiner Komplexität nachzuahmen, gibt es zwei vergleichbare Herangehensweisen, mithilfe derer eine Künstliche Intelligenz Entscheidungen treffen kann. Während Deep-Learning-Verfahren zu schnellen, aber rational nicht begründbaren Ergebnissen führen, können formale Berechnungen nachprüfbare und mathematisch korrekte Antworten bringen – die allerdings mehr Zeit beanspruchen.

In dem am 1. November 2019 gestarteten Projekt „Fast&Slow“ untersuchen Wissenschaftler des DFKI, wie sich die beiden Methoden kombinieren lassen. Am Forschungsbereich Cyber-Physical Systems, geleitet von Prof. Dr. Rolf Drechsler, soll es einer Künstlichen Intelligenz ermöglicht werden, gleichzeitig sowohl schnelle als auch verlässliche Entscheidungen zu treffen. Denn Deep-Learning-Verfahren allein liefern lediglich subsymbolisch errechnete Lösungen, die auf Millionen von Parametern und Unmengen von Testbeispielen beruhen. In vielen Anwendungsfeldern erfüllt dieses Vorgehen jedoch nicht die Ansprüche an Verlässlichkeit und Vertrauenswürdigkeit – etwa beim autonomen Fahren. Es ist daher notwendig, die Ergebnisse überprüfen und der KI die korrekten Ergebnisse antrainieren zu können.

Hierzu sollen diese subsymbolischen Verfahren mit symbolischen kombiniert werden, um so die Vorteile beider – die Schnelligkeit ebenso wie die nachprüfbare Korrektheit der Resultate – nutzen zu können. Dafür ist es zunächst nötig, Problemstellungen zu definieren, die sowohl formal als auch durch Deep-Learning-Algorithmen lösbar sind – etwa das Planen von Handlungsabläufen. Zunächst soll das formal korrekte Ergebnis trainiert werden, bevor das Problem durch das schnellere, subsymbolische Verfahren zu lösen versucht wird. Das Resultat lässt sich im Nachhinein mit der symbolischen Methode überprüfen und gegebenenfalls korrigieren.

Um die Kombination der Verfahren zu testen, planen die Wissenschaftler des DFKI zwei Versuchsabläufe: Im ersten Versuch sollen sogenannte TurtleBots (kleine autonome Transportroboter, die unter anderem als Transporthilfen genutzt werden können) ihren sicheren Weg durch ein Smart Home finden. Im zweiten Versuch soll wiederum einem „pi4_workerbot“ – ein Industrieroboter des Herstellers pi4_robotics mit zwei Armen – das Jonglieren beigebracht werden. Ziel ist es, den Roboter sowohl allein als auch zusammen mit einem Menschen jonglieren zu lassen, indem er die berechneten Bewegungsabläufe kennt und gleichzeitig durch Deep-Learning-Verfahren schnell über die nächste Armbewegung entscheiden kann.

Zunächst geht es in dem Projekt „Fast&Slow“ jedoch darum, die grundlegenden Probleme der zwei Verfahren zu betrachten: Wie lassen sich die Informationen der verschiedenen KI-Methoden zusammenführen, welche Probleme lassen sich formell überprüfen, und in welchen Fällen ist diese Überprüfung besonders wichtig? Ein bekanntes Beispiel für die Schwächen des Deep Learning sind Verfahren, die wegen der Daten, mit denen sie trainiert wurden, Vorurteile ausbilden. Gerade in solchen Situationen ist es wichtig, auch formale Ergebnisse zu erhalten.

Die Wissenschaftler des DFKI zielen darauf ab, die Grundlagen für einen sichereren und verlässlicheren Einsatz von Deep-Learning-Verfahren zu entwickeln, um so das Potential der maschinellen Entscheidungsfindung auch in anspruchsvollen Bereichen nutzen zu können. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Projekt „Fast&Slow“ deshalb mit rund 1,2 Millionen Euro über eine Laufzeit von drei Jahren.