Transparenz und Überwachungsmechanismen KI braucht Kontrolle!

Norman heißt die „erste psychopathische KI“, entwickelt zu Forschungszwecken am renommierten Massachusetts Institute of Technology (MIT).

Künstliche Intelligenz ist en vogue. Doch es gibt neben der Begeisterung für die neue Technologie auch Bedenken. Was passiert wenn KI "in die falschen Hände" gerät?

Bis 2030 erwartet Europas Industrie über 11 Prozent Wachstum durch künstliche Intelligenz (KI), wie eine Umfrage von Hewlett Packard Enterprise (HPE) ermittelt hat.

Untersuchungen des IBM Institute for Business Value zufolge streben zwar 82 Prozent der Unternehmen eine KI-Einführung an, doch gleichzeitig befürchten 60 Prozent Probleme mit der Verlässlichkeit der Technologie. Zudem gibt es ethische Bedenken, vor allem wenn KI dazu eingesetzt wird, Emotionen oder gar Krankheitsbilder zu erkennen. Für Diskussionsstoff in der Gesellschaft sorgen außerdem der Datenschutz und die Frage, ob KI Arbeitsplätze kosten wird.

Letzteres versuchen Analysten und Technik-Konzerne zu entkräften: Durch künstliche Intelligenz sollen bis zum Jahr 2020 2,3 Millionen neue Jobs entstehen, während 1,8 Millionen wegfallen. Unterm Strich bliebe also ein Plus. Das zumindest prognostizieren die Analysten von Gartner. Studien von HPE und anderen kommen zu einem in der Sache ähnlichen Ergebnis. Ob und welche Jobs wegfallen, wird sich allerdings erst mit einer fortschreitenden Einführung der KI zeigen und dürfte sich zum jetzigen Zeitpunkt schwer prognostizieren lassen.

Auch die Frage, wie verlässlich und kontrollierbar KI-Lösungen sind, lässt sie gerade bei selbstlernenden Systemen nur schwer beantworten. Eine Auseinandersetzung mit dieser Problematik ist aber nach Ansicht etwa der Organisation AlgorithmWatch unumgänglich. In ihrem Mission-Statetement fordert sie: »Je weiter Technik entwickelt wird, desto komplexer wird sie. Wir sind der Ansicht, dass Komplexität nicht bedeuten darf, dass Technik nicht mehr nachvollziehbar ist.«

Die Organisation wurde Ende 2015 gegründet von Lorena Jaume-Palasí, Lorenz Matzat, Matthias Spielkamp und Prof. Dr. Katharina Anna Zweig. AlgorithmWatch analysiert die Auswirkungen algorithmischer Entscheidungsfindungsprozesse auf menschliches Verhalten und zeigt ethische Konflikte auf. Die gemeinnützige Organisation will den Weg der KI in die Gesellschaft aktiv mitgestalten und unterstützt dabei, Ideen und Strategien zu entwickeln, die eine Nachvollziehbarkeit der Prozesse ermöglichen – mit einem Mix aus Technologie, Regulierung und geeigneten Aufsichtsinstitutionen. Das Gründerteam beleuchtet die brennenden Fragen zur künstlichen Intelligenz interdisziplinär: Matzat ist Journalist und Softwareunternehmer in Berlin mit den Schwerpunkten auf Datenjournalismus und interaktiven Anwendungen. Spielkamp ist Herausgeber von iRights.info und wurde mehrfach als Sachverständiger in Bundestagsanhörungen, u.a. zu KI und Robotik berufen. Zweig ist Physikerin und Biochemikerin und lehrt an der TU Darmstadt am Institut für Informatik. Jaume-Palasi forscht zur Ethik der Digitalisierung und Automatisierung und befasst sich in diesem Zusammenhang auch mit rechtsphilosophischen Fragen.

Sie vertritt AlgorithmWatch auch in der kürzlich gegründeten KI-Expertengruppe der Europäischen Kommission. AlgorithmWatch wurde dafür in einem offenen Auswahlverfahren mit 500 Bewerbungen als institutionelles Mitglied ausgewählt. Mit Jaume-Palasi sind 52 Vertreter aus Zivilgesellschaft, Wissenschaft und Wirtschaft in die Expertengruppe für KI berufen worden. Die High-Level Expert Group on Artificial Intelligence (AI HLG), so die offizielle Bezeichung, berät die Kommission in ethischen, rechtlichen und sozialen Fragen und spricht Empfehlungen für die Gesetzesentwicklung und den legislativen Evaluationsprozess aus.

Die Expertengruppe soll KI ethisch salonfähig und rechtssicher machen. Dazu erarbeitet sie ethische Richtlinien zu den Themen Fairness, Sicherheit, Transparenz, Zukunft der Arbeit und Demokratie. Sie prüft die Anwendung der EU-Grundrechtecharta auf künstliche Intelligenz, insbesondere Fragen der Privatsphäre und des Datenschutzes, der Würde des Menschen, des Verbraucherschutzes und der Gleichbehandlung.