TÜV, BSI und Fraunhofer HHI

Whitepaper zur Prüfbarkeit von KI

24. Mai 2022, 11:51 Uhr | Nicole Wörner
Schmuckbild KI
Prüfbarkeit von Künstlicher Intelligenz: TÜV-Verband, BSI und Fraunhofer legen gemeinsames Whitepaper vor
© RS-Studios / stock.adobe.com

Der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut haben in einem gemeinsamen Whitepaper ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) vorgestellt.

Hintergrund ist die geplante Regulierung von KI-Anwendungen in der Europäischen Union.

Die „Certification Readiness Matrix“ (CRM) beschreibt, welche Prüfmethoden und Werkzeuge heute bereits vorhanden sind, um verschiedene Sicherheitsaspekte von Künstlicher Intelligenz beurteilen und zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf besteht.

»Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU«, sagt Patrick Gilroy, Referent Künstliche Intelligenz und Bildung beim TÜV-Verband. Im Rahmen der KI-Verordnung wird geregelt, wie die Sicherheit von besonderes kritischen KI-Anwendungen gewährleistet werden soll. Dazu zählen beispielsweise die Steuerung von Fahrzeugen, medizinische Anwendungen, biometrische Verfahren oder Roboter, die mit Menschen zusammenarbeiten. Je nach Risikoklasse der jeweiligen KI-Systeme sollen unterschiedliche Vorgaben gelten.

Die Zertifizierungsmatrix stellt eine Methode zur Erfassung der Prüfbarkeit von Qualitäts- und Sicherheitskriterien von KI-Systemen dar und wendet diese exemplarisch an. Sie berücksichtigt dabei den gesamten Lebenszyklus komplexer KI-Anwendungen von der Datensammlung über die Trainingsphase bis zum Einsatz in der Praxis. Darüber hinaus beleuchtet sie verschiedenste Aspekte der IT-Sicherheit.

»KI-Systeme müssen verschiedene Anforderungen erfüllen, um als sicher und vertrauenswürdig gelten zu können«, sagt Gilroy. Dazu gehören neben dem Schutz vor gesundheitlichen Gefahren auch die Abwehr von Cyberangriffen, die Robustheit gegenüber sich ändernden äußeren Einflüssen oder die Erklärbarkeit von Entscheidungen des KI-Systems. Gilroy: »Wir glauben, dass sowohl Prüfer:innen als auch Entwickler:innen und Entscheidungsträger:innen in der Industrie, Forschung und in Behörden von der Certification Readiness Matrix profitieren können.«

Das Whitepaper und die darin abgebildete Certification Readiness Matrix sind im Rahmen einer gemeinsamen Workshop-Reihe von BSI, Fraunhofer HHI und TÜV-Verband entstanden, die jährlich anlässlich der „TÜV AI Conference“ stattfindet. Die Diskussionen und Beiträge des letztjährigen Fachforums sind als Impulse eingeflossen und weiterentwickelt worden. »Das Whitepaper, aber auch die gemeinsamen Veranstaltungen sind Ausdruck einer sehr intensiven und ergebnisorientierten Zusammenarbeit dreier Kompetenzpartner auf Augenhöhe. Diese Kooperation wollen wir weiter ausbauen«, betont Gilroy. 

Das vollständige Whitepaper ist abrufbar unter: https://www.tuev-verband.de/meldungen/whitepaper-pruefbarkeit-ki-systeme


Verwandte Artikel

TÜV NORD CERT GmbH & Co. KG, TÜV Nord Mobilität GmbH & Co. KG, TÜV Rheinland LGA Products GmbH Köln