Startseite > Automation > KI-Systeme müssen mit offenem Visier agieren

Ethische Aspekte künstlicher Intelligenz

KI-Systeme müssen mit offenem Visier agieren

17. Juli 2019, 18:11 Uhr | Andreas Knoll

▶ Diesen Artikel anhören

Fortsetzung des Artikels von Teil 3

Ein starkes Werkzeug braucht Kontrollen

Wie mächtig die KI heutzutage schon ist und in Zukunft erst noch werden wird, können momentan selbst Experten kaum einschätzen. Klar ist, dass sie ein starkes Werkzeug in der Hand von Staat und Unternehmen, aber auch künftig von Nicht-Regierungsorganisationen und der Zivilgesellschaft ist und nicht zuletzt in der Hand von Kriminellen sein kann. Wie früher bei der Dampfmaschine können verheerende Unfälle passieren, wenn zu viel Druck auf dem Kessel ist. Erst die regelmäßige Überprüfung durch unabhängige Fachkräfte etwa von TÜV Rheinland, dem früheren Dampfkesselüberwachungsverein DÜV, in diesem Falle von Sachverständigen, hat dazu geführt, dass technische Großanlagen, Fahrzeuge und Aufzüge bis hin zu Kraftwerken zu sicheren Einrichtungen wurden. Bei der KI mag der Vergleich mit einem Atomkraftwerk vielleicht verwegen klingen. Aber ohne Überwachung durch unabhängige Dritte und lebenslange Weiterqualifizierung der menschlichen Fachkräfte wird es kaum gehen – damit eine fehlgeleitete KI kontrollierbar bleibt und nicht verheerende Wirkung entfaltet.

Markus Dohm ist seit 2015 Leiter des Geschäftsbereichs Academy & Life Care bei TÜV Rheinland. Er verantwortet das globale Dienstleistungsangebot von TÜV Rheinland auf dem Gebiet des Gesundheits-Managements, der Arbeitssicherheit und der Qualifizierung von Fach- und Führungskräften.