Künstliche Intelligenz zählt laut Allianz zu den größten Geschäftsrisiken weltweit. Sie erleichtert Cyberangriffe, kann aber auch intern durch fehlerhafte Entscheidungen, Rechtsrisiken und Reputationsschäden gefährlich werden.
Künstliche Intelligenz (KI) ist für Unternehmen Chance und Risiko zugleich. Nach Einschätzung der Allianz hat sich die Technologie in kurzer Zeit zu einem der größten globalen Geschäftsrisiken entwickelt – nicht nur als Werkzeug krimineller Hacker, sondern auch durch ihren unkontrollierten Einsatz im Unternehmensalltag.
Im aktuellen Risikobarometer von Allianz Commercial ist KI vom zehnten auf den zweiten Platz der größten Geschäftsrisiken weltweit vorgerückt, direkt hinter dem langjährigen Spitzenreiter Cyberkriminalität. Beide Risiken stehen in engem Zusammenhang: Cyberkriminelle setzen zunehmend KI ein, um Angriffe effizienter, glaubwürdiger und schwerer erkennbar zu machen.
Doch auch jenseits gezielter Angriffe birgt KI Gefahren. Laut Risikobarometer kann selbst der gutgläubige Einsatz von KI problematisch sein – etwa wenn Führungskräfte oder Mitarbeitende auf Basis fehlerhafter, verzerrter oder frei erfundener KI-Ergebnisse falsche Entscheidungen treffen.
Auf Rang drei der größten globalen Geschäftsrisiken stehen in diesem Jahr Betriebsunterbrechungen. Auch dabei gibt es eine Verbindung zu Cyberangriffen: Eine häufige Ursache von Betriebsunterbrechungen ist Online-Erpressung: Die Hacker lähmen die Rechnersysteme eines Unternehmens per Verschlüsselung und fordern für die anschließende Entschlüsselung hohe Summen.
Allianz Commercial, eine Tochter des Münchner Dax-Konzerns, publiziert sein »Risikobarometer« alljährlich zu Jahresbeginn. Die Einschätzungen basieren auf der Befragung von 3.338 Fachleuten aus 97 Ländern im vergangenen Herbst. Darunter sind Führungskräfte und Manager anderer Unternehmen, Risiko- und Schadenberater, Versicherungsmakler, Experten von Branchenverbänden sowie auch Allianz-Mitarbeiter.
Die Antworten der Befragten unterscheiden sich von Land zu Land, allerdings nicht grundlegend: So landeten die KI-Risiken in Deutschland auf Platz vier, in der Schweiz auf dem zweiten Rang, in Österreich dagegen sogar auf Platz eins.
Eine Mehrheit der Unternehmen sieht KI als Chance, nicht zuletzt für die automatisierte Abwehr bösartiger Cyberattacken. Doch gleichzeitig sehen etliche der befragten Fachleute große Gefahren: KI berge ein immer schneller voranschreitendes Risiko, sagte Michael Furtscheller, der regionale Geschäftsleiter für Deutschland und die Schweiz.
Demnach nutzen Cybertäter KI unter anderem für die Perfektionierung von »Social Engineering«-Angriffen. Sie geben sich als Führungskräfte aus, verfassen täuschend echte Emails, erzeugen synthetische Stimmen oder manipulierte Videos. Michael Daum, Leiter der Cyberschaden-Bearbeitung, erklärt weiter. »Die große Mehrzahl der Angriffe, die wir sehen, erfordert nach wie vor das Zutun eines Menschen - in der Regel eines Mitarbeiters - den Angriff zu ermöglichen.«
Doch Attacken von außen sind nach Worten der Allianz-Manager nur eine Seite des Problems. Risiken für Unternehmen birgt demnach auch die ganz legale Verwendung von KI-Software durch die eigenen Mitarbeiter und Führungskräfte. »Die KI per Definition arbeitet mit einem gewissen Grad an Autonomie und deswegen können die Ergebnisse falsch oder frei erfunden sein«, sagte Allianz Commercial-Managerin Alexandra Braun. »Und falsche oder auch einmal diskriminierende KI-Ergebnisse, die können natürlich auch zu Rechtsstreitigkeiten oder negativen Presseberichterstattungen und dann zu Reputations- und Imageverlust führen für Unternehmen.« Zu den KI-eigenen Risiken zählen demnach auch Urheberrechtsverletzungen, wenn die Software geschützte Informationen abschreibt oder verwendet.
Die übrigen Risiken unter den globalen Top Ten reichen von der Politik über die Natur bis zu den hergebrachten Unsicherheiten des Geschäftslebens. Auf Platz vier stehen Gesetzgebung und Regulierung, was sich sowohl auf die US-Zollpolitik und sonstige Handelshemmnisse als auch die in vielen Ländern beklagte Bürokratie bezieht. Auf den nächsten beiden Rängen folgen Naturkatastrophen und Klimawandel, anschließend politische Instabilität und Gewalt, negative volkswirtschaftliche Entwicklungen etwa durch Inflation, Feuer und Explosionen. Platz zehn nimmt die Ungewissheit über Marktentwicklungen ein, seien es neue Wettbewerber, Firmenübernahmen oder sonstiger Wandel.