Gruselige Online-Empfehlungen Wenn der Computer Eure Gedanken liest

Wenn der Rechner zu viel über uns weiß, fühlen wir uns unwohl.
Wenn der Rechner zu viel über uns weiß, fühlen wir uns unwohl.

Was weiß die künstliche Intelligenz über uns? Kennt sie uns besser, als wir selbst? Manchmal könnte man bei der Online-Suche dieses Gefühl bekommen. Doch hinter den Algorithmen steckt ein bestimmtes System, das nicht so gruselig ist, wie es scheint.

»Wie hieß denn noch dieser Filmklassiker von Tarantino, der so durcheinander ist?«, überlegen wir mit einem Freund. Und schon beim nächsten Einloggen in den Streaming-Dienst steht »Pulp Fiction« ganz oben. Manchmal ist es geradezu gruselig, was künstliche Intelligenz über uns weiß. Wann und warum wir das so empfinden, damit haben sich Wissenschaftler der Universität Duisburg-Essen (UDE) beschäftigt. Ihr Fazit: (Zu wenig) Transparenz ist entscheidend.

Empfehlungssysteme sind online allgegenwärtig. Von uns meist nicht wahrgenommen, sollen sie helfen, aus Millionen von Möglichkeiten das individuell passende Produkt oder die Information schnell zu finden. Moderne Algorithmen und künstliche Intelligenz analysieren unsere Hotelbuchung, erfassen die Bewertungen, die wir für Produkte und Dienstleistungen online abgeben. Sie hören unserem Musik-Streaming zu und merken sich die Rezepte, die wir oft aufrufen.

Hört der Computer mit?

Doch fast alle kennen diese zu gut passenden Vorschläge, die sich anfühlen, als könne der Rechner Gedanken lesen. Die sich irgendwie gruselig anfühlen. Doktorandin Helma Torkamaan von der Arbeitsgruppe »Interaktive Systeme« hat selbst diese Erfahrung gemacht, obwohl sie die dahinterstehende Technik kennt und selbst einsetzt: »Ich habe mich mit einem Kollegen über eine Veröffentlichung unterhalten. Das Thema war mir neu, es interessierte mich aber. Kurz danach erschien genau dieser Beitrag ganz oben in meinen Empfehlungen.«

Gemeinsam mit ihrem Kollegen Catalin Barbu führte sie eine Studie durch, in der 171 Probanden Tipps zu Filmen, Hotels und medizinischen Themen gezeigt bekamen. Dabei wurde jeweils ausgewertet: Wie gut passt der Vorschlag? Ist der Grund dafür klar? Was empfinden wir, wenn wir eine gruselige Empfehlung sehen? Und was wären die Konsequenzen daraus?

Sie fanden heraus, dass Menschen sich besonders ausspioniert fühlen, wenn sie keine Verbindung zwischen einem ausgezeichnet passenden Vorschlag und ihrem vorherigen Verhalten online sehen: Es wird also gruselig, wenn die künstliche Intelligenz einen klaren Treffer landet und wir nicht wissen, warum. Tauschen Medien oder Plattformen sich hingegen nachvollziehbar untereinander aus, wird dies neutraler aufgenommen.

»Wir empfehlen daher, dem einzelnen die Kontrolle darüber zu geben, was personalisiert wird und er nachvollziehen kann, wie das geschieht«, fasst Barbu zusammen. Anderenfalls kann das Vertrauen in das Empfehlungssystem sinken oder der Nutzer lehnt die vorgeschlagenen Produkte sogar ab.