Leitlinien für künstliche Intelligenz Mensch soll Kontrolle behalten

Ein Anwendungsgebiet der künstlichen Intelligenz ist das automatisierte Fahren. Durch den Einsatz von KI soll die Zahl der Unfälle reduziert werden. Doch wie mit KI umgehen? Hierfür hat Bosch Leitlinien erarbeitet.
Ein Anwendungsgebiet der künstlichen Intelligenz ist das automatisierte Fahren. Durch den Einsatz von KI soll die Zahl der Unfälle reduziert werden. Doch wie mit KI umgehen? Hierfür hat Bosch Leitlinien erarbeitet.

Mit dem KI-Kodex gibt Robert Bosch seinen Mitarbeitern Leitlinien an die Hand und bezieht damt Position in der gesellschaftlichen Debatte zu künstlicher Intelligenz. Die Maxime darin lautet: Der Mensch soll bei allen Entscheidungen der KI die Kontrollinstanz sein.

»Künstliche Intelligenz soll den Menschen dienen. Mit dem KI-Kodex geben wir unseren Mitarbeitern klare Leitlinien für die Entwicklung von intelligenten Produkten an die Hand«, erklärte Bosch-CEO Volkmar Denner auf der Bosch ConnectedWorld in Berlin. »Unser Ziel ist, dass die Menschen unseren KI-Produkten vertrauen.« Ab 2025 sollen alle Bosch-Produkte über künstliche Intelligenz verfügen oder mit ihrer Hilfe entwickelt oder hergestellt werden. Das Unternehmen hat dabei den Anspruch, dass seine KI-Produkte sicher, robust und nachvollziehbar sind.

Gemäß dem KI-Kodex soll künstliche Intelligenz nicht ohne menschliche Kontrollinstanz über Menschen entscheiden. Vielmehr soll sie den Menschen als Werkzeug dienen. Drei Szenarien sind dabei möglich. Ihr gemeinsamer Nenner: Der Mensch soll bei den Entscheidungen der von Bosch entwickelten KI-Produkte die Kontrolle behalten. Im ersten Szenario ist künstliche Intelligenz reines Hilfsmittel – etwa bei entscheidungsunterstützenden Anwendungen, bei denen der Mensch bei der Klassifikation von Gegenständen oder Lebewesen unterstützt wird – also Human-in-command. Im zweiten Szenario trifft ein intelligentes System selbst Entscheidungen, die der Mensch aber jederzeit übersteuern kann – Human-in-the-loop. Ein Beispiel dafür ist das teilautomatisierte Fahren: In die Entscheidung eines Einparkassistenten etwa kann der Mensch direkt eingreifen. Im dritten Szenario, beispielsweise bei einem Notbremsassistenten, legen Experten während der Entwicklung des intelligenten Produkts bestimmte Parameter als Grundlage für die Entscheidung der KI fest, in die Entscheidung selbst können sie nicht eingreifen. Im Nachhinein überprüft der Entwickler, ob sich die Maschine an die vom Menschen gegebenen Vorgaben gehalten hat. Falls nötig, kann er die Parameter verändern – Human-on-the-loop.

Bosch will mit seinem KI-Kodex auch einen Beitrag zur gesellschaftlichen Debatte um künstliche Intelligenz leisten. »KI wird alle Lebensbereiche verändern«, betonte Denner und unterstrich: »Eine breite gesellschaftliche Diskussion ist deshalb notwendig.« Um Vertrauen in intelligente Systeme zu schaffen, ist neben technischem Know-how der enge Austausch mit Politik, Wissenschaft und Gesellschaft wichtig. Bosch ist daher in der High-Level-Expert-Group der Europäischen Kommission in Brüssel vertreten, die sich ebenfalls mit der ethischen Dimension der künstlichen Intelligenz beschäftigt. In einem globalen Netzwerk mit derzeit sieben Standorten und in Zusammenarbeit mit der Universität Amsterdam und der Carnegie Mellon University in Pittsburgh/USA forscht das Unternehmen zudem an sicherer, vertrauenswürdiger KI. Im Forschungsverbund Cyber Valley in Baden-Württemberg ist der Zulieferer Gründungsmitglied und investiert 100 Millionen Euro in den Bau des AI Campus. Dort arbeiten in naher Zukunft rund 700 Bosch-Experten, externe Forscher und Mitarbeiter von Start-ups zusammen. Um den engen Austausch von Fachleuten führender internationaler Verbände und Organisationen geht es auch bei dem ins Leben gerufenen Digital Trust Forum.

Welche Leitlinien beinhaltet nun der KI-Index?

  • Jedes KI-Produkt soll dem Bosch-Leitmotiv »Technik fürs Leben«, das Innovationsstreben mit gesellschaftlicher Verantwortung verbindet, entsprechen.
  • KI soll nicht ohne eine menschliche Kontrollinstanz über den Menschen entscheiden, sondern dem Menschen als Werkzeug dienen.
  • Bosch will sichere, robuste und nachvollziehbare KI-Produkte entwickeln.
  • Vertrauen gehört zu den Grundwerten des Unternehmens. Daher besteht der Anspruch, vertrauenswürdige KI-Produkte zu entwickeln.
  • Bei der Entwicklung von KI-Produkten werden rechtliche Vorgaben beachtet und sich an ethischen Grundsätzen orientiert.