Startseite > Automotive > Assistenzsysteme > Gesetzliche Regeln für künstliche Intelligenz gefordert

Studie des TÜV-Verbandes

Gesetzliche Regeln für künstliche Intelligenz gefordert

6. Oktober 2020, 11:30 Uhr | Stefanie Eckardt

Der TÜV-Verband hat eine Studie zu künstlicher Intelligenz vorgestellt, die deutlich macht, dass gesetzliche Regeln für KI notwendig sind.

Deutsche Unternehmen stehen künstlicher Intelligenz (KI) grundsätzlich positiv gegenüber und erhoffen sich durch die Nutzung der Technologie entscheidende Wettbewerbsvorteile – befürworten aber gesetzliche Vorgaben für deren Einsatz. Das ergab eine repräsentative Studie im Auftrag des TÜV-Verbands.

▶ Diesen Artikel anhören

Neun von zehn Unternehmen, also 90 Prozent, fordern gesetzliche Regelungen, um Haftungsfragen zu klären. 87 Prozent sind der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten. Und 84 Prozent wünschen sich, dass Produkte und Anwendungen mit künstlicher Intelligenz für die Nutzer klar gekennzeichnet werden. Das hat eine repräsentative Studie ergeben, für die im Auftrag des TÜV-Verbands 500 Unternehmen ab 50 Mitarbeiter:innen befragt wurden. »Künstliche Intelligenz ist eine Schlüsseltechnologie der Digitalisierung mit enormen Chancen, die aber einen gesetzlichen Rahmen braucht«, unterstrich Dr. Dirk Stenkamp, Präsident des TÜV-Verbands (VdTÜV), bei Vorstellung der Studienergebnisse. »KI-Anwendungen sollten bestimmte Sicherheitsanforderungen erfüllen, wenn bei ihrer Nutzung die Gesundheit von Menschen oder ihre elementaren Grundrechte wie Privatsphäre oder Gleichberechtigung in Gefahr sind.« Risiken bestünden zum Beispiel bei automatisierten Fahrzeugen, medizinischen Diagnosen oder der Personalauswahl. Stenkamp: »Nur mit klaren gesetzlichen Vorgaben können wir Vertrauen in Künstliche Intelligenz schaffen und eine breite Nutzung ermöglichen.« Laut den Studienergebnissen nutzen derzeit erst 11 Prozent der Unternehmen KI-Anwendungen. Weitere 4 Prozent planen die Nutzung und 15 Prozent diskutieren darüber. Als Hemmnisse für eine (stärkere) Nutzung nennen die Befragten neben fehlenden Anwendungen (50 Prozent) unter anderem rechtliche Unsicherheiten (42 Prozent), Sorge vor Datenschutzproblemen (41 Prozent), einen Mangel an Know-how oder Fachkräften (41 Prozent) aber auch Sicherheitsbedenken (27 Prozent).

Laut Umfrage empfinden 82 Prozent der befragten Geschäftsführer und IT-Verantwortlichen etwas Positives oder sehr Positives, wenn sie an künstliche Intelligenz denken. Eine große Mehrheit (78 Prozent) ist außerdem davon überzeugt, dass ihnen der KI-Einsatz entscheidende Wettbewerbsvorteile verschaffen kann. Unter den KI-Nutzern setzt gut jedes dritte Unternehmen (35 Prozent) die Technologie für innerbetriebliche Zwecke ein. 29 Prozent nutzen KI in ihren Produkten und Dienstleistungen, um diese mit zusätzlichen Funktionen auszustatten oder in anderer Form zu verbessern. 23 Prozent machen beides.

Wenn es um die Nutzung der Technologie geht, wünschen sich Unternehmen mehr Orientierung für ihr Business. »KI-Systeme sind häufig eine Art Blackbox, deren Entscheidungen die Nutzer nicht nachvollziehen können«, so Stenkamp. Daher würden es mehr als vier von fünf Unternehmen befürworten (84 Prozent), wenn die Zuverlässigkeit einer KI von unabhängigen Experten bestätigt würde. Bei der Anschaffung eines KI-Systems würden 86 Prozent ein Produkt bevorzugen, das über ein neutrales Prüfzeichen verfügt. Und 85 Prozent fordern, dass die Sicherheit von KI-Anwendungen von herstellerunabhängigen Stellen geprüft wird.

Jobangebote+ passend zum Thema

Regional Key Account (m/w/d) für Elektronische Bauteile

KOA Europe GmbH, Dägeling

Alle Jobangebote im Elektroniknet Karrierebereich anzeigen

Einsatz von KI bringt struktuelle Veränderungen mit sich

Die befragten Unternehmen rechnen damit, dass der breite Einsatz von künstlicher Intelligenz zu strukturellen Umbrüchen führen wird: 80 Prozent erwarten große oder sehr große Veränderungen in der Wirtschaft insgesamt, 40 Prozent in ihrer Branche und 31 Prozent in ihrem eigenen Unternehmen. Vor allem die Arbeitswelt könnte Künstliche Intelligenz revolutionieren: 77 Prozent der Unternehmen sind der Meinung, dass sich Jobprofile und berufliche Tätigkeiten durch den Einsatz von KI stark verändern werden. Vier von fünf Befragten (80 Prozent) erwarten, dass KI-Systeme die meisten Routineaufgaben übernehmen werden. Gleichzeitig glauben fast ebenso viele (78 Prozent), dass KI-Anwendungen den Menschen in der Regel nicht ersetzen, sondern ihn unterstützen werden.

Eine knappe Mehrheit der befragten Unternehmen erwartet (52 Prozent), dass der Einsatz von KI zum Abbau vieler Arbeitsplätze führen wird. Auf der anderen Seite gehen 45 Prozent davon aus, dass die Technologie viele neue Jobs schaffen wird. Stenkamp betonte: »Eine breite Anwendung von künstlicher Intelligenz wird einen Strukturwandel auslösen, den Wirtschaft, Politik, Gewerkschaften und andere gemeinsam gestalten müssen.«

Gesetzliche Vorgaben nötig

Aus Sicht der Prüforganisationen sind gesetzliche Vorgaben für künstliche Intelligenz notwendig, um die Technologie sicherer zu machen und ihr damit zum Durchbruch zu verhelfen.

Der TÜV-Verband empfiehlt folgende Regelungen:

Europäischen Rechtsrahmen KI-tauglich machen: Der Gesetzgeber sollte grundlegende Anforderungen an KI-gestützte Anwendungen in Bezug auf Kriterien wie körperliche Unversehrtheit, Gleichberechtigung, Privatsphäre oder IT-Sicherheit sowohl übergreifend als auch sektorspezifisch formulieren.
KI-Systeme nach Risikoklassen regulieren: Nicht jede KI muss die gleichen Anforderungen erfüllen. So ist eine E-Mail-Spam-Erkennung anders zu behandeln als ein autonomes Fahrzeug. Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden.
Unabhängige Prüfungen bei sicherheitsrelevanter KI: Bei risikobehafteten KI-Systemen sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob KI-Anwendungen die gesetzlichen Anforderungen erfüllen und in der Nutzung sicher sind.
Prüfmethoden weiterentwickeln: Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden entwickelt werden. Die Prüforganisationen leisten hier ihren Beitrag, brauchen dafür aber auch Unterstützung aus der Wissenschaft und der Politik.
Datenstrategie gestalten: Die Verfügbarkeit und Qualität von Daten spielen für den Erfolg von Künstlicher Intelligenz eine herausragende Rolle. Eine zielführende KI-Regulierung setzt daher eine nationale und eine europäische Datenstrategie voraus.
Trainingsdaten berücksichtigen: KI-Anwendungen sind lernende Systeme, deren Funktionen und Wirkungen von der Menge und Qualität ihrer Trainingsdaten abhängig sind. Der Zugang zu Trainingsdaten muss in den Datenstrategien geregelt werden.

»Mit dem Weißbuch KI der EU-Kommission sowie den Ergebnissen der Datenethikkommission und der Enquete-Kommission Künstliche Intelligenz liegen fundierte Analysen und Vorschläge auf dem Tisch«, betonte Stenkamp. »Jetzt muss es an die Umsetzung gehen.«