Künstliche Intelligenz Wie Neuronale Netze »denken«

Mit ihrer Arbeit verfolgen die Forscher aus Karlsruhe einen neuen Ansatz, um die inneren Vorgänge in einem neuronalen Netz zu verstehen.
Mit ihrer Arbeit verfolgen die Forscher aus Karlsruhe einen neuen Ansatz, um die inneren Vorgänge in einem neuronalen Netz zu verstehen.

Ein Forscherteam des DFKI bringt Licht in die Black Box Neuronaler Netze und erhält dafür den »Nvidia Pioneer Award«.

Als einziges europäisches Team wurden die Forscher vom DFKI Deep Learning-Kompetenzzentrum für ihre Arbeit »What do Deep Networks Like to See?«, die einen neuartigen Einblick in die Verarbeitungsprozesse neuronaler Netzwerke ermöglicht, mit dem »NVIDIA Pioneer Award« ausgezeichnet.

Das neuartige Analyseverfahren der DFKI-Forscher erlaubt weitreichende Einblicke in die Eigenschaften und Verarbeitungsprozesse tiefer neuronaler Netze, die sonst weitestgehend undurchsichtig sind. Dabei werden die Vorgänge von außen von einem zweiten neuronalen Netz betrachtet. Ein leistungsstarker Autoencoder erhält Rückmeldung über die Ergebnisse der Analyse und passt die Eingabe entsprechend an, so dass Fehler reduziert werden. Erkennt das Netz beispielsweise ein Motiv auf einem Bild nicht richtig, so wird der Input nach dem Gusto des Netzes angepasst. Hieraus lassen sich Rückschlüsse über die bevorzugten Entscheidungswege der gängigsten Modelle ziehen und diese verständlich visualisieren. Kurzum: Das Verfahren bringt ein neues Licht in die Vorgänge der »Black Box« des Deep Learning und hilft so, die Prozesse nachvollziehbarer zu machen. Ein zentraler Aspekt, wenn Maschinen Entscheidungen im Sinne des Menschen treffen sollen.

Renommierte Auszeichnung

Neben dem DFKI, dem einzigen Preisträger aus Europa, wurden weitere renommierte Institutionen wie die Stanford University, Tsinghua University, University of Toronto, University of Tokyo und University of Washington, Chinese Academy of Science, Peking University, ausgezeichnet.

Prof. Dr. Andreas Dengel, Standortleiter des DFKI in Kaiserslautern und Leiter des Kompetenzzentrums Deep Learning freut sich über die erneute Auszeichnung: »Wir sind sehr stolz über die erneute Würdigung unserer Forschungsarbeit durch den Weltmarktführer für Machine Learning-Plattformen. Ganz besonders möchte ich die Mitarbeiterinnen und Mitarbeiter des DFKI-Kompetenzzentrums Deep Learning beglückwünschen, die regelmäßig für ihre exzellenten Arbeiten ausgezeichnet werden.«

Sebastian Palacio, Wissenschaftler im DFKI-Forschungsbereich Smarte Daten & Wissensdienste, stellte das neue Konzept mit dem Papier »What do Deep Networks Like to See?« der DFKI-Autoren Sebastian Palacio, Joachim Folz, Joern Hees, Federico Raue, Damian Borth und Andreas Dengel erstmals auf der CVPR Konferenz vor und nahm die Auszeichnung entgegen.

Entwickelt wurde die Technologie im Rahmen des vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Projekt DeFuseNN.