Gesichtserkennung: Tipp für Berufseinsteiger: Sei ein weißer Roboter - DER SPIEGEL

Liebe Leserin, lieber Leser,

immer wenn ich denke, die Entmenschlichung der Arbeitswelt kann kaum noch dystopischer werden, kommt irgendjemand mit einer neuen Überwachungstechnik um die Ecke und setzt noch eins drauf.

Wie die »Washington Post« berichtet, gibt es in den USA dank Corona eine neue, haarsträubende Kombination aus Homeoffice und Gesichtserkennung: Juristinnen und Juristen, die als »Gig worker« – also befristet für die Dauer des jeweiligen Auftrags – riesige Mengen an Dokumenten sichten und für die Verwendung in Prozessen vorbereiten, konnten das vor der Pandemie häufig in speziellen Büros mit Zugangskontrollen tun. Kein glamouröser Job, aber für Berufsanfänger mitunter die einzige Art, ihre Studienkredite abzubezahlen, heißt es in dem Artikel.

In Pandemiezeiten kann und soll diese Arbeit aus dem Homeoffice erledigt werden, überwacht von einer Software. Einerseits nachvollziehbar, denn es geht häufig um Unternehmensinterna, E-Mails und andere sensible Dokumente, die darf nicht jeder sehen. Andererseits braucht es nicht viel Fantasie, um sich vorzustellen, wozu eine Kombination aus gewohnt schlechter Gesichtserkennungssoftware und billigen Webcams wohl führt. Genau: zu Schikane, Stress und Diskriminierung.

Etwa bei Camille Anidi, einer schwarzen Anwältin aus Long Island im Bundesstaat New York. Schaute sie zu lange nach links, wurde sie aus dem System geworfen und musste sich neu einloggen, mit einem erneuten Scan ihres Gesichts von drei Seiten. Kam ihr Hund ins Zimmer, passierte das gleiche. Trug sie ihre Haare nicht offen, sondern in Bantu-Knots, hielt die Software diese für verbotene Aufnahmegeräte und loggte sie ebenfalls aus. Bis zu 25 Mal täglich geschah das.

Muster-Arbeitnehmer

Foto: PhonlamaiPhoto / Getty Images/iStockphoto

Ihr Vorgesetzter tat das als kleines technisches Problem ab, doch einige ihrer Kolleginnen mit hellerer Haut sagten ihr, sie hätten derartige Probleme nicht. Die »Washington Post« hat insgesamt 27 Auftragnehmer befragt, die unter solchen Umständen arbeiten. Viele von ihnen haben ähnlich schlechte Erfahrungen gemacht wie Anidi.

Nicht nur, dass die Software vermeintliche Unaufmerksamkeit bestraft und die ohnehin vergleichsweise schlecht bezahlten Gig-Worker zu roboterhaftem Stillsitzen und Auf-den-Bildschirm-starren zwingt. Schon eine Kaffeetasse in der Hand kann zum Log-out führen.

Noch problematischer ist die seit Jahren bestehende Benachteiligung von Nicht-Weißen durch Bilderkennungssoftware. Schon 2015 – vor sechs Jahren also – hatten Google und Flickr dieses Problem einräumen müssen. 2017 wurde eine ähnliche Schwäche im biometrischen System von Neuseelands Passbehörde bekannt. 2020 war Microsoft an der Reihe. Studien belegten wieder und wieder, dass viele Gesichtserkennungssysteme schlecht darin sind, Menschen mit dunkler Haut zu erkennen – weil sie überwiegend mit Bildern von Weißen trainiert werden. Offenbar wird derart untaugliche Technik aber bis heute eingesetzt, das ist die bittere Erkenntnis aus dem Artikel der »Washington Post«. Die einzige Fortentwicklung scheint darin zu bestehen, dass man sich jetzt auch bequem im Homeoffice diskriminieren lassen kann.

Fremdlinks: drei Tipps aus anderen Medien

• »So werden Amazon-Zusteller in Österreich per Smartphone-App überwacht« (4 Leseminuten)
  Die »Futurezone« fasst zusammen, was eine Studie über die App-gesteuerte Kontrolle von Amazon-Kurieren ergeben hat, unter anderem dies: Viele Mitarbeiter verzichten wegen der rigiden Vorgaben auf Essenspausen und sogar auf Toilettengänge.

• »Start-up Helsing: Spotify-Mitgründer investiert 100 Millionen in Militär-KI« (4 Leseminuten)
  Das Münchner Start-up Helsing entwickelt Software, die Militärs bei der Feindaufklärung und Gefechtsführung unterstützen soll. Spotify-Mitgründer Daniel Ek beteiligt sich, sein Investmentunternehmen Prima Materia will schließlich der »Gesellschaft zu einer besseren Zukunft verhelfen«.

• »The internet is leaking« (Englisch, 6 Leseminuten)
  Manchmal ist es nicht ganz einfach, die Diskrepanz zwischen der Welt, die uns Tech-Konzerne versprechen, und jener, in der wir tatsächlich leben, zu veranschaulichen. Ist der »reality check« nur deprimierend? Oder irgendwie auch lustig? Beides, wie Ryan Broderick mit seinem Bericht beweist.

Ich wünsche Ihnen eine gute Woche, bleiben Sie gesund.

Patrick Beuth

Adblock test (Why?)

Gesichtserkennung: Tipp für Berufseinsteiger: Sei ein weißer Roboter - DER SPIEGEL
Read More