Teilen Teilen Kommentare Drucken
Probleme in der Bild-Erkennung

Twitter-Algorithmus bevorzugt offenbar weiße Gesichter

Veröffentlicht: 22.09.2020 | Geschrieben von: Christoph Pech | Letzte Aktualisierung: 22.09.2020
Verschiedene Menschen

Ein Algorithmus kann per se nicht rassistisch sein. Er kann aber gewisse Dinge bevorzugen und andere vernachlässigen, wenn er mit entsprechenden Daten gefüttert wird. Dieses Problem manifestierte sich am Wochenende massenwirksam beim Kurznachrichtendienst Twitter. Aufgrund einer ähnlich gearteten Fehlfunktion beim Videokonferenzdienst Zoom haben Twitter-Nutzer entdeckt, dass ein Algorithmus offenbar weiße Gesichter gegenüber solchen von schwarzen Personen bevorzugt, wie Heise berichtet.

Ausgangspunkt der Debatte war der Doktorand Colin Madland. Dieser wollte auf Twitter eine Fehlersuche in Zoom dokumentieren. Einem seiner Kollegen wurde immer der Kopf abgeschnitten, wenn ein virtueller Hintergrund für Videokonferenzen genutzt wurde. Die Software erkannte das Gesicht des schwarzen Mannes offenbar. Kurios wurde es dann, als er seine Entdeckung auf Twitter teilen wollte. Wer die Bilder auf dem Smartphone nicht anklickte, um sie in Gänze zu sehen, wusste überhaupt nicht, worum es geht, den auch der Twitter-Algorithmus beschnitt die Bilder so, dass das Gesicht des Mannes zunächst nicht zu sehen war.

Fehlerhafter Bilder-Algorithmus

Anfang 2018 führte Twitter einen Algorithmus ein, der automatisch die vermeintlich wichtigen Teile eines Bildes in der Vorschau zeigen soll. Bei Bildern im Hochformat wird etwa in der Regel nur ein mehr oder minder quadratischer Ausschnitt gezeigt. Und ganz offenbar – das zeigten mehrere Nutzer auf Twitter – werden die Gesichter schwarzer Personen oft ignoriert, wenn sie weißen gegenübergestellt werden – übrigens auch, wenn man das Bild spiegelt oder die Positionen der Menschen tauscht.

Der Forscher Vinay Prabhu stellte dem Experiment einen eigenen Versuch entgegen, indem eine eigens für solche Vergleiche erstellte Bilddatenbank nutzte. Hier wurden überraschenderweise mehrheitlich schwarze Menschen angezeigt. Das Problem des Twitter-Algorithmus könnte sein, dass die entsprechende Erkennungssoftware mit Bildern vornehmlich weißer Menschen angelernt wurde.

Inwieweit Twitter aufgrund des Experiments Handlungsbedarf sieht, bleibt abzuwarten. Das Problem wurde aber offenbar zumindest erkannt. An den Experimenten beteiligte sich auch Dantley Davis, Chief Design Officer von Twitter. Twitters Chief Technology Officer Parag Agrawal lobte indes das Experiment. Der Videokonferenzdienst Zoom hat bereits eine eigene Analyse angekündigt.

Über den Autor

Christoph Pech Experte für: Digital Tech

Christoph ist seit 2016 Teil des OHN-Teams. In einem früheren Leben hat er Technik getestet und hat sich deswegen nicht zweimal bitten lassen, als es um die Verantwortung der Digital-Tech-Sparte ging. Digitale Politik, Augmented Reality und smarte KIs sind seine Themen, ganz besonders, wenn Amazon, Ebay, Otto und Co. diese auch noch zu E-Commerce-Themen machen. Darüber hinaus kümmert sich Christoph um den Youtube-Kanal.

Sie haben Fragen oder Anregungen?

Kontaktieren Sie Christoph Pech

Schreiben Sie einen Kommentar

Newsletter
Abonnieren
Bleibe stets informiert mit unserem Newsletter.