Elektroniknet Logo

Automatisierte Fahrzeuge prüfen

TÜV-Unternehmen gründen KI-Entwicklungslabor

Bei autonomen Fahrzeugen, kommen KI-Systeme zum Einsatz, die eine komplexe Prüfung erfordern.
© temp-64GTX / Shutterstock.com

Die TÜV-Unternehmen haben ein Entwicklungslabor für künstliche Intelligenz gegründet. Dort wollen an der Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen arbeiten. Dazu zählt die Prüfung von KI-Systemen in automatisierten Fahrzeugen.

Im TÜV AI Lab werden KI-Expert:innen aus den TÜV-Organisationen an praktischen Prüfszenarien arbeiten. Hierzu zählen Prüfszenarien automatisierte Fahrzeuge, Assistenzsysteme in der Medizin oder mobile Roboter. So könnten die KI-Prüfer:innen beispielsweise ermitteln, wie sicher automatisierte Fahrzeuge mit KI-Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren. Dabei spielen sowohl Performanz als auch Aspekte der Cybersecurity und der Robustheit von KI eine wichtige Rolle. Eine entsprechende Prüfung sollte in Zukunft Voraussetzung für die Zulassung neuer Fahrzeuge sein.

»Künstliche Intelligenz ist komplex und kann sich dynamisch verhalten«, sagt Dr. Dirk Schlesinger, Leiter des TÜV AI Labs. »Also können wir bestehende Prüfansätze nicht einfach übertragen, sondern müssen neue Testmethoden entwickeln.«

Dabei finden auch Daten Berücksichtigung, mit denen Algorithmen trainiert werden. Beispielsweise können die Trainingsdaten eines KI-Systems für die Personalauswahl zu einer Benachteiligung bestimmter Personengruppen führen, wenn die Daten nicht ausgewogen sind. Schlesinger: »Das TÜV AI Lab wird Kriterien entwickeln, wie die Eignung von Trainingsdaten für bestimmte KI-Anwendungen beurteilt werden kann.«

Ein weiteres Ziel des TÜV AI Labs ist die Entwicklung von Lösungsansätzen für die Einteilung von KI-Anwendungen in Risikoklassen, denn nicht alle KI-Systeme müssen die gleichen Anforderungen erfüllen. Daher sollten KI-gestützte Systeme nach ihrem Gefährdungspotenzial reguliert werden. Die Anforderungen könnten von einem vollständigen Regulierungsverzicht über Transparenzpflichten und Zulassungsverfahren vor der Markteinführung bis zu einem Verbot besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen.

Die EU-Kommission hat zwei Risikoklassen (niedriges und hohes Risiko) vorgeschlagen, während die Datenethikkommission der Bundesregierung für fünf Stufen plädiert. »Die Frage ist, wie viele Risikoklassen tatsächlich sinnvoll sind und nach welchen Kriterien KI-Systeme den einzelnen Klassen in der Praxis zugeordnet werden können«, kommentiert Schlesinger. Auch damit werde sich das TÜV AI Lab beschäftigen, das noch im ersten Quartal 2020 seine Arbeit aufnehmen wird.

Relevante Anbieter


Das könnte Sie auch interessieren

Verwandte Artikel

TÜV Nord Mobilität GmbH & Co. KG, TÜV SÜD AG, WEKA FACHMEDIEN GmbH