Technikfolgen-Forschung Wird KI jemals ein Bewusstsein haben?

Der Titel des Forschungsprojekts klingt wie eine Kriminalakte: »Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz«. Dahinter steht die Frage, ob KI für die Menschheit gefährlich werden kann.

Alexa, Sophia, Watson: Die uralte Idee einer dem Menschen ähnlichen, zugleich mit übermenschlichen Fähigkeiten ausgestatteten Maschine hat durch die Fortschritte der KI-Forschung neue Nahrung erhalten. Einige Akteure stellen die Entwicklung einer ihrer selbst bewusst werdenden »Superintelligenz« in Aussicht. Doch wie realistisch ist das? In dem vom Bundesministerium für Bildung und Forschung geförderten Projekt „Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz“ gehen Technikfolgenforscher des Karlsruher Instituts für Technologie (KIT) dieser bislang kaum erforschten Fragestellung auf den Grund.

Als im Oktober 2017 der Roboter »Sophia« auf einer Konferenz im saudi-arabischen Riad ans Rednerpult trat und dem halb amüsierten, halb staunenden Publikum sein Selbstverständnis einer lernenden und kommunizierenden Maschine in Menschengestalt erläuterte, war dies in der öffentlichen Wahrnehmung ein Meilenstein auf dem scheinbar immer kürzer werdenden Weg zu einer »erwachenden«, ihre Individualität und ihre internen Zustände reflektierenden Künstlichen Intelligenz.

Auch KI-gestützte Systeme wie der smarte Lautsprecher »Alexa«, IBMs dialogfähiges Superhirn »Watson« oder Googles selbstlernender Schachgigant »AlphaZero« befeuern die Vision einer in absehbarer Zeit realisierbaren »Superintelligenz«, die alles Dagewesene in den Schatten stellt. Renommierte Akteure in Wissenschaft und Kunst warnen vor den Folgen eines solchen Epochenwechsels, andere verweisen auf die nachgerade utopischen Chancen. Die grundlegende Frage, was »bewusste KI« überhaupt sei und was an den Szenarien von Maschinen mit einer eigenständigen Existenz dran sein könnte, wird erstaunlicherweise selten gestellt.

Bisher eine Glaubensfrage

An dieser Stelle setzt das zweijährige Forschungsprojekt »Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)« an. »Uns geht es darum, das Thema KI-Bewusstsein zu entmystifizieren«, sagt Projektleiter Professor Karsten Wendland vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des KIT. »Manche«, erläutert der Informatiker und Technikfolgenforscher seine Zielsetzung, »halten es für ausgeschlossen, dass Maschinen, insbesondere KI-Systeme, irgendwann einmal ‚bewusst‘ werden. Andere behaupten, bewusste KI-Systeme seien schon längst da und versteckten sich noch vor uns. Hier möchten wir ein transdisziplinär tragfähiges Verständnis erarbeiten und die Ergebnisse in den öffentlichen Diskurs einbringen.«

Thesen und Argumente sammeln

In einem »Mixed-Methods«-Ansatz wird das Projektteam zunächst den Status quo in Sachen KI-Bewusstsein untersuchen – mittels einer systematischen Erfassung der Debatten in den Spezialdisziplinen und im öffentlichen Diskurs, in Experteninterviews sowie in einer bibliometrischen Medienanalyse. Erstmals sollen auf diese Weise typische Positionen, Argumentationen und Sprechweisen identifiziert und beschrieben werden. »Als Analysten«, sagt Projektleiter Wendland, »nehmen wir hierbei eine inhaltlich neutrale Haltung ein. Zugleich schrecken wir nicht davor zurück, sehr mutige Positionen zum KI-Bewusstsein in unsere Untersuchung aufzunehmen, Positionen, die im europäischen Raum eher selten sind, etwa, dass zwischen Menschen und Maschinen nicht zwingend unterschieden werden muss, da in allem ein Stück Schöpfung stecke.«

In einem zweiten Schritt wollen die Wissenschaftler zu zentralen Forschungsfragen des Themenfeldes »KI-Bewusstsein« Expertinnen und Experten zusammenbringen, die bislang noch nicht miteinander sprechen. Diese transdisziplinären Brückenschläge, vertieft in Workshops und Symposien, sollen ein fächerübergreifendes Verständnis für die ebenso geheimnisumwitterte wie heikle Thematik aufbauen und befestigen.

Öffentlichkeit informieren

Wesentlich für das Projekt sind zuletzt die allgemeinverständliche Aufbereitung des analytisch und diskursiv erarbeiteten Wissensstandes und die Bereitstellung dieses Wissens für die interessierte Öffentlichkeit, aber auch für Interessenvertreter und weitere wissenschaftliche Communities. Dies geschieht in Bürgerdialog-Formaten ebenso wie mittels Podcasts, Broschüren und einer (im Aufbau befindlichen) Webpräsenz. Darüber hinaus ist ein enger Austausch mit Wissenschaftsredaktionen geplant. Getreu seinem entmystifizierend-aufklärerischen Ansatz geht es dem Projektteam bei der Verbreitung seiner Erkenntnisse insbesondere darum, die Abklärung der Frage aufsteigenden KI-Bewusstseins nachvollziehbar und doch fundiert publik zu machen. »Damit möchten wir das Allgemeinwissen erweitern, möglicherweise sogar läutern – und wiederum die von diesem dialogischen Prozess ausgehenden Anregungen aufgreifen,“ unterstreicht Projektleiter Wendland.

Ergebnisse Ende 2020

Das Projekt »Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz (KI-Bewusstsein)« ist auf zwei Jahre angelegt und endet im Dezember 2020. Im Rahmen des Förderprogramms »Innovations- und Technikanalyse (ITA)« wird es vom Bundesministerium für Bildung und Forschung mit insgesamt 335 000 Euro gefördert.