Künstliche Intelligenz BSI und TÜV kooperieren bei Risikoerkennung

Die Durchdringung elektronischer Systeme mit Künstlicher Intelligenz steigt stetig an, ohne dass den damit verbundenen Risiken ausreichend Aufmerksamkeit gewidmet wird. Dies soll eine von BSI und TÜV-Verband gegründete Expertengruppe ändern.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der TÜV-Verband haben eine Expertengruppe zur Sicherheit von Produkten und Anwendungen mit Künstlicher Intelligenz (KI) gegründet. »Künstliche Intelligenz kommt immer häufiger in sicherheitskritischen Bereichen zum Einsatz, beispielsweise in hoch automatisierten Fahrzeugen oder in Robotern, die mit Menschen interagieren«, erklärte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV), anlässlich der »TÜV Cybersecurity Conference« in Berlin. »Die dabei entstehenden Risiken müssen frühzeitig erkannt und behoben werden.« So müsse sichergestellt sein, dass die KI-Systeme auch in extremen Situationen sicher funktionieren und vor Cyberangriffen bestmöglich geschützt sind. Im Gegensatz zu klassischen IT-Systemen sind die heute eingesetzten KI-Systeme in der Regel kaum interpretierbar und damit schwer formal prüfbar. »Die traditionellen Prüfverfahren stoßen beim Einsatz Künstlicher Intelligenz an ihre Grenzen«, stellte Bühler fest. Ziel der Expertengruppe sei es, die Sicherheit von Künstlicher Intelligenz zu erhöhen und hierfür geeignete Prüfmethoden zu entwickeln.
Die Expertengruppe von TÜV-Verband und BSI wird anhand ausgewählter Anwendungsbereiche mögliche Schwachstellen von KI-Systemen identifizieren und potenzielle Angriffspunkte über den gesamten Lebenszyklus von KI-Systemen und –Produkten aufzeigen. Im Mittelpunkt stehen zunächst Anwendungen aus dem Mobilitätssektor. Perspektivisch will die Arbeitsgruppe auch weitere Expertinnen und Experten zur Mitarbeit und zu Diskussionen einladen.