Verantwortungsvolle Digitalisierung

Bei der Erforschung einer verantwortungsvollen Digitalisierung konzentrieren wir uns auf das Thema »Ethik von KI-Algorithmen«, sowie das Spannungsfeld zwischen »Daten und Privatsphäre«.

Optimistisch und neugierig auf die Anwendung von Technologien zu blicken, macht es erforderlich, sich auch mit potenziellen ethischen Herausforderungen der Digitalen Transformation zu beschäftigen.

Wie Menschen, können sich auch Algorithmen irren. Das bedeutet, dass – gerade bei wichtigen Entscheidungen – Menschen oder Organisationen die Entscheidungen einer KI nachvollziehen können sollten.

Viele KI-Algorithmen sind jedoch intransparent, d.h., sie erklären nicht, wie sie zu bestimmten Entscheidungen oder Prognosen gekommen sind. Transparenz ist bspw. bei einer Anwendung im Bereich Condition Monitoring industrieller Maschinen von nicht allzu großer Bedeutung – im HR-Bereich dagegen zentrale Voraussetzung für eine KI-Anwendung.

Von großer gesellschaftlicher Bedeutung ist auch die berechtigte Sorge vor einer Diskriminierung durch KI-Algorithmen.

So gibt es viele Beispiele, dass Algorithmen bei Personalentscheidungen Frauen benachteiligt oder Menschen einer bestimmten Hautfarbe nicht erkannt haben. Der eigentliche Grund aber hinter diesen Diskriminierungen ist eine nicht repräsentative und unfaire Auswahl von Trainingsdaten. Diese Beispiele führen in der Regel zu hohen Reputationsverlusten für die Anbieter und Entwickler der Algorithmen.

Aber auch abseits der KI-Anwendung spielt das Thema Daten eine große Rolle für Wirtschaft und Gesellschaft. So können Daten – und auch die Zusammenführung von Daten – einen großen Nutzen stiften, zum Beispiel in der medizinischen Forschung oder im Rahmen von Open-Data-Projekten.

Diesen potenziellen Vorteilen stehen allerdings große Risiken für die Privatsphäre der Menschen gegenüber. Dies zeigt zum Beispiel der Datenskandal von 2016, bei dem eine Facebook-App die Daten von mehreren Millionen Nutzer:innen, vornehmlich aus den USA, an die Firma Cambridge Analytica weitergab, um so in großem Stil Daten über potentielle Wählerinnen und Wähler zu sammeln und zu analysieren.
Oder auch der Eklat von 2021 um die Facebook-Whistleblowerin Frances Haugen, die zeigte, wie Facebook-Algorithmen das Wohlbefinden von Nutzer:innen negativ beeinflussen.

Facebook versprach Verbesserungen. Wir werden sehen.

Rund um das Thema Daten und Privatsphäre haben wir an unserem Lehrstuhl bereits 2012 mit dem Hessischen Rundfunk das Projekt »Der Preis des Kostenlosen« ins Leben gerufen.