Expertin KI kann Vorurteile verstärken

Diskriminierung und Rassismus im Alltag spiegeln sich nach Meinung der Computerwissenschaftlerin Joy Buolamwini auch in der KI wider.

KI könne bestehende Vorurteile sogar verfestigen. Das sei aus verschiedenen Gründen eine Gefahr, sagte die Expertin auf der Innovationskonferenz DLD in München. Buolamwini gründete in den USA eine Organisation, die sich dem Kampf gegen Ungerechtigkeit in Algorithmen widmet, die Algorithmic Justice League.
»Zusammen mit meinen Kollegen wollte ich herausfinden: Wie gut können Services wie IBM, Microsoft oder Face++ das Geschlecht eines Gesichts erraten«, sagte Buolamwini in München. Dabei sei herausgekommen: Am wenigsten gut funktionieren die Systeme bei schwarzen Frauen. In den USA haben Buolamwini und ihre Organisation das Thema bekannt gemacht - und die Sensibilität der meisten Anbieter erhöht. Seit ihrer ersten Studie 2018 hätten etliche Firmen an ihren Programmen gearbeitet.

Es gehe ihr nicht darum, anzuklagen, sondern Bewusstsein zu schaffen und die Systeme zu verbessern. Das führe aber auch zu der Frage: »Welche Art von Systemen wollen wir haben?« Was solle mit Systemen etwa zur automatischen Gesichtserkennung gemacht werden. Es gebe Anbieter, die ihre Fähigkeiten Behörden zur Verfügung stellen, um bestimmte ethnische Gruppen in Videos zu identifizieren. Auch das könne Rassismus fördern, sagte Buolamwini.

Die jährlich vom Medienkonzern Burda veranstaltete DLD-Konferenz (Digital Life Design) will eine Brücke zwischen Technologie, Wirtschaft und Kultur schlagen. Zu den zentralen Themen gehören in diesem Jahr der Klimawandel, künstliche Intelligenz und Quantencomputer. Das Motto ist diesmal »What are you adding?« –  etwa: »Was bringst Du ein?«. Die Frage soll zur aktiveren Beteiligung am aktuellen Wandel durch die Digitalisierung animieren.