Plattform Lernende Systeme
Was regelt der neue EU AI Act? Kurz und knapp erklärt
Die EU hat mit dem AI Act das weltweit erste Regelwerk für einen sicheren und vertrauenswürdigen Einsatz von KI verabschiedet. Was genau in der KI-Verordnung ausgeführt ist und wie die Regelungen nun umgesetzt werden, erklärt 'KI Kompakt' von der Plattform Lernende Systeme.
Der Artificial Intelligence Act, kurz AI Act, legt eindeutige Regeln für die Entwicklung und Nutzung von KI-Systemen fest und schafft damit einen einheitlichen, verbindlichen Rechtsrahmen in Europa. Ziel ist es, die möglichen Risiken der Technologie zu minimieren.
Zugleich soll die KI-Verordnung die Forschung und Entwicklung von KI innerhalb der EU wettbewerbsfähig halten und Innovationen fördern. KI-Anwendungen mit inakzeptablen Risiken, wie das Bewerten sozialen Verhaltens (sogenanntes Social Scoring) oder die biometrische Identifizierung in Echtzeit, werden in Europa verboten.
KI-Systeme mit hohem Risiko, wie etwa in Schulen, im Personalmanagement oder bei der Strafverfolgung, müssen strenge Sicherheitsanforderungen erfüllen, bevor sie auf dem EU-Markt zugelassen werden. Diese Anforderungen umfassen unter anderem Risikomanagement, menschliche Überwachung und die Qualität der Trainingsdaten.
Grundsätzlich schreibt die KI-Verordnung vor: Der Einsatz von KI muss transparent gemacht werden. Es soll immer erkennbar sein, wenn KI im Spiel ist. Dies gilt sowohl für Chatbots als auch für KI-generierte Bilder und Texte, die künftig entsprechend gekennzeichnet werden müssen.
Ein weiterer zentraler Punkt der Verordnung ist der Umgang mit KI-Basismodellen wie ChatGPT, die die Grundlage für viele generative KI-Anwendungen bilden. Die Besonderheit hierbei: Solche Modelle haben zunächst keine bestimmte Nutzung vorgesehen, könnten jedoch später in Hochrisiko-Systeme integriert werden. Für diese Modelle gelten nun, abhängig von ihrer Rechenkapazität, unterschiedlich strenge Vorschriften hinsichtlich Transparenz, Cybersicherheit und Energieeffizienz.
„Die KI-Verordnung ist eine Pionierin: Sie stellt den weltweit ersten Versuch dar, die Sicherheit von KI-Systemen ex ante zu gewährleisten. Die Definition, welche Informationssysteme unter den zentralen Begriff des KI-Systems fallen, ist jedoch komplex: Es soll sich um Systeme mit unterschiedlichen Autonomiegraden handeln, die nicht allein anhand von Menschen erstellten Regeln operieren. Laut den Erwägungsgründen sollen jedoch wissens- oder regelbasierte Expertensysteme durchaus von der Verordnung erfasst sein. Die Konkretisierung und Anwendung auf konkrete Grenzfälle bleiben der Rechtsprechung überlassen“, so Ruth Janal, Professorin für Recht an der Universität Bayreuth und Mitglied der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme.
Neben der Definition von KI gibt die Anwendung des Gesetzes in den Mitgliedsstaaten Anlass zu Bedenken. So könnten unterschiedliche Prüfmechanismen, ob ein KI-System dem Gesetz entspricht, den Wettbewerb verzerren. Kritiker bemängeln zudem, dass der AI Act insbesondere in mittelständischen Unternehmen KI-Innovationen hemmen könnte, bedingt durch die möglichen hohen Kosten zur Einhaltung der EU-Vorschriften.
Wie geht es weiter?
Der AI Act tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt der EU in Kraft. Während die Verbote bereits nach sechs Monaten gelten, ist die gesamte Verordnung erst in zwei Jahren anwendbar. Derzeit werden harmonisierte europäische Normen erarbeitet, die festlegen, wie die Verordnung in verschiedenen Anwendungsfeldern genau umgesetzt werden kann. Diese Normen werden in allen EU-Mitgliedsländern gelten. Zudem wird jeder Mitgliedsstaat mindestens eine autorisierte Prüfstelle sowie eine Marktüberwachungsbehörde einrichten, um die Verordnung auf nationaler Ebene umzusetzen.
KI Kompakt „AI Act der Europäischen Union. Regeln für vertrauenswürdige KI“ steht hier zum Download zur Verfügung.
In eigener Sache:
Zwei Tage vollgepackt mit spannenden Vorträgen rund um das Thema Künstliche Intelligenz für Industrie- und Embedded-Anwendungen: Auf den "Elektronik AI Solution Days – KI für Industrie- und Embedded-Anwendungen" am 2.-3. Juli 2024 in München finden Sie Antworten auf Ihre Fragen rund um das Thema KI: Jetzt anmelden - Mit dem Code erhalten Sie 25% Rabatt auf die Teilnahmegebühr. (KI25EDITORIAL)
Jobangebote+ passend zum Thema
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
Forsa-Umfrage
Klare Mehrheit lehnt Personalauswahl durch KI ab
Die Gefahr wächst
Warum Unternehmen die KI-Nutzung im Büro jetzt regeln sollten
