Diskriminierung durch Algorithmen sind die Pferdeäpfel der Digitalisierung
In ihrem Beitrag für den Rotunde-Blog der Evangelischen Akademie Tutzing fordert die Politologin und Philosophin Cindy-Ricarda Roberts mehr Bewusstsein für Diskriminierung, die durch Künstliche Intelligenz entsteht.
Technische Neuerungen haben Nebeneffekte – in positiver und negativer Hinsicht. Was der Pferdemist auf den Straßen zu Zeiten der Pferdefuhrwerke gewesen sei, sei später die Umweltverschmutzung durch die Abgase des Automobils geworden, so Medienethik-Expertin Cindy-Ricarda Roberts in ihrem Blogbeitrag für die Evangelische Akademie Tutzing. In Zeiten des digitalen Wandels benennt Roberts die Diskriminierung, die durch menschengemachte Algorithmen entsteht, als einen negativen Sekundäreffekt der Digitalisierung.
Mit der Masse an Daten, die Künstliche Intelligenz erzeuge, steige auch der Grad der Diskriminierung bestimmter Menschengruppen. So habe es etwa beim Online-Handelsunternehmen Amazon den Fall gegeben, dass ein Auswahl-Algorithmus für potenzielle Bewerberinnen und Bewerber alle Personen benachteiligt habe, die nicht männlich waren. “Der Grund hierfür lag in den Daten, mit denen die ‘intelligente’ Software trainiert wurde, sodass offengelegt werden konnte, dass zuvor wohl vorwiegend Männer bei der Besetzung von Stellen bevorzugt wurden”, so Roberts.
Künstliche Intelligenz wertet auch – etwa, was als “schön” oder “nicht schön” in sozialen Netzwerken wie zum Beispiel Instagram gilt. Roberts schreibt: “Die Software versucht dabei das, was beispielsweise als ‘schön’ deklariert wird oder die Nutzer als unangebracht melden, als Muster zu erkennen, zu erlernen und anzuwenden. Derartige unbewusste Wertungen (“Biase”), die wie im obigen Beispiel auch zu illegitimer Diskriminierung führen können, stellen so letztlich nur einen Spiegel gesellschaftlicher Gegebenheiten dar. Nichtsdestoweniger ist die Diskriminierung durch Algorithmen ein reales Risiko, welches strukturell durch den zunehmenden Gebrauch algorithmischer Systeme in Softwareanwendungen erhöht wird.”
Diese Entwicklung verlange nicht nur Aufmerksamkeit, sondern aktives Gegensteuern. Sie fordert: “Rahmenbedingungen durch ethische Richtlinien und gesetzliche Regelungen zu finden und zu schaffen ist gerade im Zeitalter fortschreitender Digitalisierung von grundlegender Bedeutung.”
Den kompletten Beitrag lesen Sie in unserem Rotunde-Blog.
Der Beitrag ist zugleich Gastkolumne im November-Newsletter der Evangelischen Akademie Tutzing. Er erscheint am 30. Oktober 2020. Mehr dazu hier.
Die Autorin ist eine der vier Mentorinnen im Team der Jugendtagung “Zukunfts-Lab: Digitalität, Umweltpolitik & Ethik” der Evangelischen Akademie Tutzing. Darüber hinaus ist sie als Referentin während der Tagung “Digitalethik & Junge politische Philosophie” vom 4. bis 6.12.2020 von Studienleiterin Julia Wunderlich im Jungen Forum an der Evangelischen Akademie Tutzing zu Gast. Informationen zur Veranstaltung finden Sie hier.
Bild: Cindy-Ricarda Roberts (Foto: privat)
