Startseite > Embedded > Software > KI nutzen und dabei ethisch handeln

Künstliche Intelligenz

KI nutzen und dabei ethisch handeln

5. Oktober 2022, 7:30 Uhr | von Heinrich Welter, VP Northern & Eastern Europe and GM DACH bei Genesys

Künstliche Intelligenz (KI) bietet Unternehmen immense Möglichkeiten, von denen sie viele längst nicht ausgeschöpfen. Langsam beginnen viele, den vielfältigen Nutzen der Technik zu begreifen. Ein verantwortungsvoller Umgang mit KI-Systemen basiert auf Kontrolle, Nachvollziehbarkeit und Transparenz.

▶ Diesen Artikel anhören

Unternehmen entdecken das Potenzial von KI zur Entwicklung neuer Geschäftsmodelle, zur Analyse großer Mengen von Daten und zur Automatisierung von Geschäftsprozessen. Doch wie bei vielen neuen Technologien ist sie noch immer ein kontrovers diskutiertes Thema. Gerade weil das Potenzial grenzenlos zu sein scheint, müssen wir bedenken, wie sie sich auf unsere Gesellschaft auswirkt und uns in diesem Zusammenhang mit Fragen rund um Moral und Risiken beschäftigen. Nur wenn Unternehmen die eingesetzte KI und ihre Entscheidungen vollends verstehen, können sie die Kontrolle über ihre Algorithmen behalten.

KI-Modelle sind nie wirklich unvoreingenommen, müssen aber fair sein

Auf Algorithmen basierende Modelle sind nie vollkommen unvoreingenommen, denn die ihnen zugrunde liegenden Daten werden nach vorher festgelegten Kriterien beurteilt und kategorisiert. So ist der Heimatort einer Person für sich genommen nur ein Datenfragment. Doch wenn die KI auf Grundlage dieses Fragments beispielsweise einen Kunden benachteiligt, da er mutmaßlich weniger einkommensstark und damit weniger profitabel ist, ist das eine ungerechte und unethische Diskriminierung. Wird dieses Merkmal jedoch dazu genutzt, um dem Kunden Warteschleifenmusik zu spielen, die ihn an seine Heimat erinnert, hat das eventuell einen positiven Einfluss auf das Kundenerlebnis. In beiden Fällen hat die KI das gleiche Merkmal verwendet, um eine Aktion auszulösen. Es ist also nicht unbedingt die Voreingenommenheit, die unethisch ist – es ist die von der Voreingenommenheit ausgelöste Aktion.

Grundlagen für den Umgang mit KI schaffen

Wesentlich ist daher, dass Unternehmen, die KI einsetzen, deren Verwendung für die Betroffenen so offen und verständlich wie möglich kommunizieren. Hierdurch lassen sich Ängste und Vorurteile gegenüber dem Einsatz von Algorithmen und Analysen auf Datenbasis reduzieren. Wer sowohl das Vertrauen seiner Kunden als auch seiner Mitarbeiter bewahren will, sollte zunächst eine allgemeine Akzeptanz für diese Systeme schaffen. Hierzu ist es sinnvoll, alle entscheidenden Abteilungen in den Prozess einzubinden. Schließlich bietet die KI für viele Bereich potenzielle Vorteile, vom Vertrieb über das Marketing bis hin zum Mitarbeitermanagement und dem Kundenservice.

Beispielsweise kann die Rechtsabteilung Standards schaffen und interne Regelungen der Datennutzung und -analyse auf ihre Kompatibilität mit staatlichen Richtlinien und Gesetzen wie der DSGVO prüfen. Eine Schlüsselrolle kommt der Personalabteilung als Vermittlerin zwischen der Unternehmensführung und den Mitarbeitern zu. Sie kann Beurteilungsprozesse und Weiterbildungsvorschläge prüfen und sollte befragt werden, wenn es darum geht, auf welcher Basis Personalentscheidungen gefällt werden. Der Vertrieb schließlich kann den Stellenwert der KI für ein wettbewerbsfähiges Produktangebot nutzen. Dazu sollte er geschult werden, um zu verstehen, welche Chancen und Herausforderungen sich mit dem Einsatz von KI in Vertrieb und Marketing ergeben.

Die Verantwortung für die KI liegt bei den Unternehmen

Stehen die KI-Systeme bereit, gilt es permanent an einer Optimierung der Algorithmen zu arbeiten. Eine Maßnahme dabei sollte sein, den Algorithmen eine möglichst umfassende Datenbasis zugrunde zu legen und damit Voreingenommenheit zu verringern. Denn Unternehmen bleiben während des gesamtem Lebenszyklus eines KI-Systems für die Entscheidungen verantwortlich, die auf Basis der Algorithmen getroffen wurden. Hieraus folgt nicht nur eine juristische, sondern auch eine ethische Verantwortung.

Ein verantwortungsbewusster Umgang mit KI-Systemen steht somit auf drei Säulen:

Unternehmen sollten gewährleisten, dass die eingesetzten KI-Systeme die beabsichtigten Ergebnisse produzieren und dass für diese Ergebnisse die Verantwortung übernommen werden kann. Hierbei helfen Leitlinien, die es Unternehmen ermöglichen, mit selbstlernenden Modellen Schritt zu halten und die Kontrolle über diese zu behalten.
Unternehmen müssen verstehen, wie die eingesetzten Modelle Entscheidungen treffen. Jeder Schritt, von der Datenerhebung bis zur finalen Aktion der KI, die womöglich die Realität von Mitarbeitern oder Kunden beeinflusst, sollte für die Verantwortlichen nachvollziehbar sein.
Unternehmen müssen transparent agieren und relevanten Dritten Einblick in alle Daten gewähren, die ihren geschäftlichen Entscheidungen zugrunde liegen.

Kein Unternehmen kann es sich leisten, KI einzusetzen, ohne das zu hinterfragen. Die Arbeit mit KI ist ein ständiger Entwicklungsprozess und bedarf ethischer Richtlinien. Oder, wie es Cathy O'Neil in ihrem 2017 erschienenen Buch »Angriff der Algorithmen« formuliert: »Big-Data-Prozesse definieren nicht die Zukunft – das übernimmt die menschliche Vorstellungskraft.« Sie ruft dazu auf, dass wir als Menschen unsere moralische Vorstellungskraft nutzen, um bessere Werte in unsere Algorithmen einzubetten und Big-Data-Modelle zu schaffen, die einem konsequenten ethischen Leitbild folgen.