Startseite > Automation > Industrie 4.0 & IoT > Der KI ins Gehirn blicken

Nachvollziehbare künstliche Intelligenz

Der KI ins Gehirn blicken

14. April 2022, 8:06 Uhr | Ute Häußler

▶ Diesen Artikel anhören

Fortsetzung des Artikels von Teil 1

Bereits real: Erklärbare KI in der Fertigungspraxis

Wie kann KI in der industriellen Fertigung beeinflussen werden?

Wir verfolgen insbesondere zwei Ansätze, um Adaptabilität zu erreichen. Bei der modellbasierten Methode wird zum KI-Modell noch ein rein physikalisches Modell kreiert. Damit kann ein digitaler Zwilling der Umgebung erstellt werden, zum Beispiel vom gesamten Schweißprozess. Die Eingangsdaten für das neuronale KI-Netz können im physikalischen Modell simulieren, welche Messwerte sich ergeben sollten. Darauf basierend kann mit Anpassungen verzerrt und manipuliert werden, damit das neuronale Netz lernt, sich anders zu verhalten, als es dies aus den realen Daten eigentlich gewohnt ist. Diese synthetischen, gefakten Daten sind nutzbar, um das KI-Training in eine erwünschte Richtung zu lenken.

Inwieweit wird dieses Vorgehen in der KI-Forschung bereits angewandt?

Wir haben bisher sehr wenig in der Literatur darüber gefunden; zumindest im industriellen Bereich dürften wir eine der Ersten sein, die das pilotieren. Wir wollen mit diesem »Biased Digital Twin«, also dem verzerrten digitalen Zwilling, das neuronale Netz anpassen. Das ist wichtig, da in der Realität oft nicht genügend Daten vorliegen; rein über den echten Prozess kann dann kein gewünschtes Verhalten eingestellt werden. Die KI würde stattdessen in unerwünschtes Verhalten zurückfallen. Mit einem bewusst manipulierten Abbild der Realität kann man dem entgegenwirken.

Welches ist der zweite Ansatz, um KI zu beeinflussen?

Das ist die Mensch-Maschine-Interaktion, wir möchten hier eine Art Human-Machine Teaching entwickeln. Wir betrachten dabei spezifische Beispiele und fragen die KI nach ihrer Einschätzung. Bei einer Schweißung würde sich die KI die Messdaten anschauen und sagen: »Das ist wahrscheinlich eine Anomalie.« Und der Mensch würde drauf sehen und sagen: »Nee, das ist alles in Ordnung.« Das ergäbe dann ein Label für überwachtes Lernen. Das Besondere dabei ist, dass der Mensch nur bei Beispielen herangezogen wird, die besonders kritisch sind. Unsere Aufgabe ist zu definieren, nach was genau gefragt wird, was wir als kritisch erachten. Denn wir wollen einerseits natürlich brauchbare Informationen für die Verhaltensänderung der KI, auf der anderen Seite soll der Anwender nicht zu oft behelligt werden.

Das klingt nach einer geführten Trainingseinheit für die KI.

Genau. Diese Phase wollen wir aber so etablieren, dass der KI-Algorithmus selbstständig und nur in wenigen, kritischen Fällen auf den Mensch zukommt. Der Datenraum wird ja bereits in Stufe 1 auf Lücken überprüft, wo abgefragt wird, welche Trainingsdaten die KI zugeführt bekommt. Bei einer bekannten Kompetenzschwäche, z. B. fehlenden Daten bei niedrigen Schweißströmen, kann die KI keine valide Aussage treffen. Würde so ein Fall auftreten, fragt die KI in Stufe 4 den Menschen.
Diese Einflussnahme ist auch eine Anforderung unserer Pilotnutzer: Denn ganz egal, wie toll ein System autonom funktioniert, es wird langfristig leider immer zu einem Ausfall oder einem unerwünschten Verhalten kommen. Und selbst wenn man im Hintergrund ein gezielt beeinflussbares Modell laufen hat, gibt es Situationen, in denen Sie ad hoc sagen müssen: »Das hier sollte eigentlich so sein.«

Das ExplAIn-Projekt ist auf drei Jahre angelegt. Wo soll die fertige X-KI danach zum Einsatz kommen?

Wir wollen die vier Stufen als erklärbares KI-System für zwei Anwendungsfälle umsetzen. Unser adaptiver Ansatz geht über eine herkömmliche X-AI sogar hinaus. Der erste Use Case ist die erwähnte Schweiß-Anomalie-Erkennung in der Automobiltechnik; wir bauen das dortige KI-System ‚from scratch‘ mit dem Unternehmen ‚by design‘ auf. Der zweite Use Case ist ein Retrofit bei Düspohl Maschinenbau; dort rüsten wir zwei bestehende KI-Anwendungen mit dem X-AI-System aus. Künstliche Intelligenz hilft dem Kaschiermaschinenbauer beim automatischen Rüsten seiner Anlagen sowie bei der automatisierten Verschleiß-Vorhersage. Im Rahmen des ExplAIn-Projektes erarbeiten wir die drei Systeme bis zur Entwicklungsreife, die Firmen können nach Ablauf des Projektes direkt in den Breitentransfer und das Implementieren in der Produktion starten.

Vielen Dank für das Gespräch!