Zielgruppen-Targeting:
So diskriminierend sind Facebooks Algorithmen
Bei Wohnungs- und Jobanzeigen stützen sich die Facebook-Algorithmen auf gängige Klischées und diskriminieren Geschlechter und Rassen, zeigt eine aktuelle US-Studie.
Hat die Trump-Administration recht, wenn sie Facebook vorwirft, beim Anzeigen-Targeting Rassen zu diskriminieren und so gegen den "U.S. Fair Housing Act" zu verstoßen? Eine gemeinsame Studie der Northeastern University, der Universität von Südkalifornien und der Beratergruppe Upturn zeigt, dass die Anschuldigungen nicht an den Haaren herbeigezogen sind.
Die Forscher schalteten Stellenanzeigen für Holzarbeiter, die von den Facebook-Algorithmen vornehmlich an weiße Männer ausgespielt wurden, während Sekretärinnen-Jobs vor allem dunkelhäutige Frauen zu sehen bekamen. Das blieb auch so, wenn die Holzarbeiter-Anzeigen dunkelhäutige Menschen zeigten und die Sekretärinnen-Anzeigen weiße Menschen. Interessanterweise beeinflussen Bilder in anderen Fällen durchaus den Algorithmus. So werden Anzeigen, die einen Fußball oder einen Soldaten zeigen, häufiger an Männer ausgespielt als Anzeigen mit Blumen oder Schminke.
Ein weiteres Indiz für Rassendiskriminierung ist die Tatsache, dass Anzeigen für Häuser, die in North Carolina zum Verkauf standen, hauptsächlich an ein weißes Publikum ausgespielt wurden, während Mietwohnungen vor allem dunkelhäutige Zielgruppen zu Gesicht bekamen. Ein Facebook-Sprecher bestätigte gegenüber der Nachrichtenagentur Reuters, dass sein Unternehmen in dieser Hinsicht noch mehr tun müsse und beteuerte, dass die Ergebnisse in die weiterführenden Diskussionen über Veränderungen im Anzeigensystem einfließen würden. "Wir haben die Anzeigenauslieferung im Blick und haben darüber bereits mit führenden Unternehmen aus der Industrie, Hochschulen und Experten für Menschenrechte diskutiert. Und wir werden schauen, was wir noch ändern können", sagte er.
Im Silicon Valley haben rassistische und geschlechtliche Diskrepanzen in automatisierten Systemen inklusive Gesichtserkennung inzwischen eine extrem hohe Priorität. Auch Facebook hat seine Algorithmen in der Vergangenheit schon diesbezüglich optimiert.