Joy Buolamwini gründete die Algorithmic Justice League, mit dem Ziel KI-Algorithmen gerechter und weniger diskriminierend zu machen. Sie stellt eine Forschungsarbeit vor, die sich mit der Frage beschäftigt: Wie akkurat sind die Gesichtserkennungstechnologien von Microsoft, IMB und Face++? Im Schnitt sind sie zu 90 Prozent akkurat, was erst einmal in Ordnung klingt, sagt sie.
Aber wenn man hellere und dunklere Haut, Männer und Frauen vergleicht, zeigt sich, dass Männer mit heller Haut von allen Programmen fast zu 100 Prozent erkannt werden, die beste Performance. Frauen mit dunkler Haut werden am schlechtesten erkannt, zum Teil nur 67 Prozent. Damit tritt sie den Beweis an, dass die meisten Programme zumindest eine Stückweit diskriminierend sind.