Startseite > Automation > Gefährliche Schatten-KI in Unternehmen wächst rasant

Bedrohung von unten

Gefährliche Schatten-KI in Unternehmen wächst rasant

25. April 2024, 13:26 Uhr | Heinz Arnold

Dr. Harald Schönfeld, Geschäftsführer Butterflymanager und United Interim: »An der Firmenspitze wird häufig die enorme Gefahr übersehen, die heute schon durch den teilweise breitflächigen KI-Einsatz an vielen Büroarbeitsplätzen heranwächst.«

Außer Kontrolle geratener KI-Einsatz von Mitarbeitern verursacht in Unternehmen Probleme bei Compliance, Datenschutz, Datensicherheit und Schutz von Betriebsgeheimnissen – ohne dass es dem Management bewusst ist.

▶ Diesen Artikel anhören

Während die Führungsspitze in vielen Unternehmen eher zögerlich dabei ist, sich über die Einführung Künstlicher Intelligenz (KI) Gedanken zu machen, nutzen viele Beschäftigte KI längst »still und heimlich« für zahlreiche betriebliche Aufgaben. Zu dieser Einschätzung gelangt der Management-Experte Dr. Harald Schönfeld, Herausgeber des Fachbuchs »Künstliche Intelligenz als Business-Booster im Unternehmen« im Verlag der Denkfabrik Diplomatic Council und Geschäftsführer der Personalberatung Butterflymanager, die Interim Manager als Führungskräfte auf Zeit an Firmen vermittelt. »Die Interim Manager stoßen in den Unternehmen regelmäßig auf eine um sich greifende Schatten-KI«, weiß Schönfeld aus der Praxis zu berichten. »Teilweise werden längst KI-Tools wie ChatGPT im großen Stil für E-Mails, Kundenbriefe, betriebliche Analysen oder Zusammenfassungen für das Management eingesetzt. Das weist für die Firmen erhebliche Probleme etwa in Bezug auf Compliance, Datenschutz, Datensicherheit und Schutz von Betriebsgeheimnissen auf, ohne dass sich die Führungsspitze in der Regel dessen überhaupt bewusst ist. Die KI-Revolution kommt von unten und findet längst mit Macht statt.«

Es droht Kontrollverlust auf Vorstandsebene

Management-Experte, sagt: »Schatten-IT gab es schon immer und hat zu einem gewissen Kontrollverlust der IT-Abteilung geführt. Doch die Schatten-KI birgt weit darüberhinausgehend die Gefahr des Kontrollverlustes auf Geschäftsführungs- oder Vorstandsebene«, sagt Harald Schönfeld, der auch Geschäftsführer von United Interim ist, einerr der größten Community für Interim Manager im deutschsprachigen Raum.

Aufgrund zahlreicher Gespräche mit Interim Managern, die an KI-Projekten in der Wirtschaft beteiligt sind, schätzt Schönfeld, dass über die Hälfte aller Büroangestellten in Deutschland »in der einen oder anderen Form« KI im Arbeitsalltag einsetzt. »Je höher die Position, desto stärker die KI-Nutzung.«

Wie mannigfach die Potenziale und die Verbreitung von KI in unterschiedlichen Firmenfunktionen wie Personalwesen, Marketing oder Controlling bzw. in verschiedenen Marktsegmenten wie der Bau- oder der Modebranche sind, dokumentiert Dr. Harald Schönfeld in seinem neuen Buch »Künstliche Intelligenz als Business-Booster für Unternehmen«. Darin kommen elf Interim Manager zu Wort, die von ihren Erfahrungen beim betrieblichen KI-Einsatz berichten.

Gefahren des KI-Einsatzes werden häufig übersehen

Dr. Harald Schönfeld warnt: »An der Firmenspitze wird häufig die enorme Gefahr übersehen, die heute schon durch den teilweise breitflächigen KI-Einsatz an vielen Büroarbeitsplätzen heranwächst«, sagt Schönfeld. Beispiele dafür sind:

Das Hochladen von Kundendaten verletzt die Datenschutz-Grundverordnung.
Die Erstellung neuer Texte anhand vorhandener Dokumente verrät unbeabsichtigt Betriebsgeheimnisse.
Die KI-Nutzung als Grundlage für Bewertungen oder Entscheidungen führt zu ethisch bedenklichen Ergebnissen, ohne dass es zunächst auffällt.

Der große KI-Slkandal wird kommen

»Es ist keine Frage, dass wir alsbald einen ersten großen KI-Skandal erleben werden«, ist sich Dr. Harald Schönfeld sicher, und fügt hinzu: »Nur welche Firma es trifft, bleibt abzuwarten.«

Der Management-Experte weist darauf hin, dass die aktuelle KI-Regulierung der Europäischen Union durch den EU AI Act bei Schatten-KI weitgehend ins Leere laufe. Schönfeld: »Wenn die Marketingabteilung Kundendaten in eine KI hochlädt, um darauf basierend gut formulierte Anschreiben an die Kundschaft zu verschicken, mag dies zwar keinen Verstoß gegen den AI Act darstellen, aber sicherlich gegen die Datenschutz-Grundverordnung. Und wenn die HR-Abteilung Bewerberprofile durch die KI prüfen und bewerten lässt, verstößt dies über den AI Act hinaus gegen weitere Rechtsgrundsätze. Es gibt heute schon etliche weitere potenzielle Compliance-, Rechts- und Sicherheitsverstöße, die im Rahmen der Schatten-KI passieren. Das kann monate- oder gar jahrelang gutgehen – bis es irgendwann auffällt und zum Skandal führt.«

»Künstliche Intelligenz als Business-Booster im Unternehmen«

Diese Interim Manager haben an dem Fachbuch über ihre Erfahrungen beim Einsatz Künstlicher Intelligenz in Unternehmen mitgeschrieben: Ulvi Aydin, Klaus Becker, Udo Fichtner, Melanie Heßler, Eckhart Hilgenstock, Falk Janotta, Jürgen Kaiser, Dr. Albert Schappert, Klaus-Peter Stöppler und Oliver Strass sowie Dr. Harald Schönfeld als Herausgeber. Das Buch (ISBN 978-3-98674-110-5) ist über den Buchhandel beziehbar. »Es gibt keine anderen Führungskräfte als Interim Manager, die im Laufe ihres Berufslebens so viele Unternehmen und so viele verschiedene unternehmerische Herausforderungen kennenlernen«, sagt Schönfeld.