Startseite > Embedded > Software > »Transparent und unerklärlich zugleich«

Künstliche Intelligenz

»Transparent und unerklärlich zugleich«

6. September 2019, 14:50 Uhr | Joachim Kroll

▶ Diesen Artikel anhören

Fortsetzung des Artikels von Teil 2

»Neuronale Netze sind transparent und unerklärlich zugleich «

D&E: Von außen betrachtet verhalten sich Neuronale Netze wie eine Black Box. Gibt es Möglichkeiten, nachzuvollziehen, wie eine Entscheidung zustande kommt?

Tung: Ihre These ist richtig und falsch zugleich. In gewisser Hinsicht ist ein Neuronales Netzwerk sehr transparent. Mit unseren oder auch mit anderen Tools sieht man genau die Struktur und die Gewichte. Aber dann kommt der Punkt, an dem man erklären soll, warum ein Gewicht diesen Wert hat und wie er zustande gekommen ist. Und ab da kann man es nicht mehr erklären. Es ist also transparent und unerklärlich zugleich. Ich denke, dass die Visualisierung Neuronaler Netze ein Lösungsansatz sein könnte. Da muss aber noch viel getan werden, was das Debugging und die Laufzeitanalyse von Neuronalen Netzen betrifft.

D&E: Was kann man sich bei Neuronalen Netzen unter Debugging vorstellen?

Tung: Die Laufzeitanalyse ist wichtig, um die Performance zu verbessern. Sagen wir mal, ich habe ein Modell, das macht, was es soll. Aber ich möchte, dass es schneller läuft. Wie kann ich es verbessern? Oder wie kann ich das Netzwerk vereinfachen, ohne das Verhalten zu verändern? Dann könnte ich das Netzwerk auch auf einem Chip mit weniger Leistungsaufnahme ausführen. Das sind die Bereiche, wo zurzeit viel Forschung stattfindet. Unsere Tools können diese Forschung unterstützen, aber sie sind im Moment noch nicht so weit, dass sie dieseOptimierungen automatisch ausführen können.

Wir brauchen auch ein Vokabular, um das Verhalten neuronaler Netzwerke zu beschreiben. Das ist nicht nur wichtig für die Kommunikation von Ingenieuren untereinander, sondern auch für die Kommunikation mit der Allgemeinheit. Wenn man den Leuten erklären will, wie automatisiertes Fahren funktioniert und warum sie dem vertrauen können, dann brauchen wir eine Möglichkeit, über die Grundlagen zu sprechen. Am Ende hängt der Erfolg des autonomen Fahrens davon ab, ob die Öffentlichkeit der Technik vertraut. Das ist eine schwierige Aufgabe. Als Ingenieure wissen wir, wie man mit Zertifizierungsbehörden umgeht, wie man das technische Management überzeugt, wie man mit anderen Teams kommuniziert. Aber mit den Erwartungen der Öffentlichkeit umzugehen und diese nicht zu enttäuschen ist nochmal eine ganz andere Nummer. Die Technik entwickelt sich schnell, aber dieses Dinge brauchen eine lange Zeit.