Selbst wenn Sie Geschlecht entdecken, funktioniert die aktuelle Gesichtserkennung Tech besser für weiße Dudes

Sidney Fussell 07/12/2018. 12 comments
Face Recognition AI/Ethics

Eine neue Überprüfung der Gesichtserkennungssoftware ergab, dass die Software bei der Geschlechtsbestimmung für Männer mit heller Haut am genauesten und für Frauen mit dunkler Haut am wenigsten genau ist. Joy Buolamwini, eine MIT Media Lab-Forscherin und Informatikerin, testete drei kommerzielle Gender-Klassifikatoren, die im Rahmen von Gesichtserkennungsdiensten angeboten werden. Wie sie herausgefunden hat, hat die Software das Geschlecht von dunkelhäutigen Frauen in 35 Prozent der Fälle falsch identifiziert. Im Gegensatz dazu betrug die Fehlerrate bei hellhäutigen Männern weniger als ein Prozent.

"Insgesamt wurden männliche Probanden genauer klassifiziert als weibliche Probanden, die frühere Befunde wiederholten (Ngan et al., 2015), und leichtere Probanden wurden genauer klassifiziert als dunklere Individuen", schreiben Buolamwini und Co-Autor Timnit Gebru in der Zeitung . "Eine intersektionale Aufschlüsselung zeigt, dass alle Klassifikatoren bei dunkleren weiblichen Probanden am schlechtesten abschnitten."

Die Ergebnisse spiegeln frühere Erkenntnisse über das Versagen von Gesichtserkennungssoftware bei der Identifizierung von Frauen und Personen mit dunklerer Haut wieder. Wie vom Centre for Privacy and Technology der Georgetown University festgestellt wurde, könnten diese geschlechts- und rassistischen Disparitäten im Zusammenhang mit Flughafen-Gesichts-Scans Frauen und Minderheiten werden eher für invasivere Verfahren wie manuelle Fingerabdrücke ins Visier genommen.

Alle Gesichtserkennungssoftware wird trainiert, indem Tausende von Bildern in einem Datensatz gescannt werden, wodurch die Fähigkeit verbessert wird, wertvolle Datenpunkte zu extrahieren und zu ignorieren, was nicht nützlich ist. Wie Buolamwini bemerkt, sind viele dieser Datensätze selbst verzerrt. Bei Adience, einem Maßstab für die Geschlechtseinstufung, werden 86 Prozent hellhäutige Personen verwendet. Ein anderer Datensatz, IJB-A, verwendet Themen, die zu 79 Prozent hellhäutig sind.

Neben anderen Problemen mit verzerrten Datasets erlauben sie Unternehmen, ihre Gesichtserkennungssoftware "genau" zu nennen, obwohl sie nur für Personen ähnlich sind, die denen im Datensatz ähnlich sind: meist Männer, meist leichter. Dunklere Frauen waren in diesen Datensätzen am wenigsten vertreten. 7,4 Prozent des Adiance-Datensatzes waren dunkelhäutige Frauen, während IJB-A 4,4 Prozent war. Dies wird zu einem Problem, wenn sich Unternehmen darauf verlassen.

Buolamwini testete drei kommerzielle Software APIs: Microsofts Cognitive Services Face API, Watson Visual Recognition API von IBM und Face ++, ein chinesisches Computer Vision Unternehmen, das Tech für Lenovo zur Verfügung stellt. Buolamwini testete, ob jeder das Geschlecht der Person in jedem Foto zuverlässig klassifizieren könnte.

Wie sie feststellte, schnitten alle Klassifikatoren auf männlichen Gesichtern besser ab als auf weiblichen Gesichtern, und alle Klassifikatoren waren bei der Bestimmung des Geschlechts von dunkelhäutigen Frauen am wenigsten genau. Face ++ und IBM hatten bei dunkelhäutigen Frauen eine Klassifikationsfehlerrate von 34,5 bzw. 34,7 Prozent. Beide hatten hellhäutige männliche Fehlerraten von weniger als einem Prozent. Die dunkelhäutige Fehlerquote von Microsoft betrug 20,8 Prozent und für hellhäutige Männer praktisch null.

Buolamwini hofft auf Gleichheit bei der Genauigkeit der Gesichtserkennung, insbesondere da die Gesichtserkennungssoftware in der Strafverfolgung und Terrorismusbekämpfung standardisiert ist. Passagiere werden in Flughäfen gescannt, Zuschauer werden in Arenen gescannt, und im Zeitalter des iPhone X könnte bald jeder mit seinem Handy gescannt werden. Buolamwini zitiert die Georgetown-Studie Als Warnung, dass die Gesichtserkennung in Flughäfen zum Standard wird und diejenigen, die den Test "nicht bestehen", eine zusätzliche Prüfung erhalten, könnte sich eine potenzielle Rückkopplungsschleife entwickeln. In dem Papier hofft sie, dass das Feld noch mehr intersektionale Audits umfassen wird, die überproportionale Auswirkungen haben, insbesondere wenn die KI bereit ist, ein zentraler Teil unserer Gesellschaft zu werden.

[ NYT ]

HighResolutionMusic.com - Download Hi-Res Songs

1 Thomas Rhett

Look What God Gave Her flac

Thomas Rhett. 2019. Writer: Thomas Rhett;Rhett Akins;Julian Bunetta;John Ryan;Jacob Kasher;Ammar Malik.
2 Little Big Town

Don't Threaten Me With A Good Time flac

Little Big Town. 2019. Writer: Thomas Rhett;Karen Fairchild;The Stereotypes;Jesse Frasure;Ashley Gorley.
3 Iselin Solheim

Anyone Out There flac

Iselin Solheim. 2019. Writer: Iselin Solheim;Max Grahn.
4 Kim Petras

Heart To Break flac

Kim Petras. 2018. Writer: Cirkut;Aaron Joseph;Dr. Luke;Jacob Kasher;Kim Petras.
5 Florian Picasso

Midnight Sun (Extended Version) flac

Florian Picasso. 2019.
6 Florian Picasso

Midnight Sun flac

Florian Picasso. 2019.
7 21 Savage

Enzo flac

21 Savage. 2019. Writer: YungLunchBox;Sheck Wes;Offset;Gucci Mane;21 Savage;DJ Snake.
8 Pescro

SUKA flac

Pescro. 2019.
9 Julie Bergan

Don't Give Up On Me Now flac

Julie Bergan. 2019. Writer: R3hab;Ferruccio Tebaldi;Iselin;Maria Jane Smith;Mateusz Dziewulski;Victor Thell.
10 Half An Orange

Buzz Lightyear (WRLD Remix) flac

Half An Orange. 2019.
11 Rachael Yamagata

Is It You flac

Rachael Yamagata. 2019.
12 Lewis Capaldi

Hold Me While You Wait flac

Lewis Capaldi. 2019. Writer: Jamie N Commons;Jamie Hartman;Lewis Capaldi.
13 Christina Perri

Tiny Victories flac

Christina Perri. 2019. Writer: Christina Perri.
14 Of Monsters And Men

Alligator flac

Of Monsters And Men. 2019. Writer: Nanna Bryndís Hilmarsdóttir.
15 Ashley Tisdale

True Romance flac

Ashley Tisdale. 2019. Writer: Scot Stewart;Dylan Mclean;Rachel West;John Feldmann;Ashley Tisdale.
16 Ashley Tisdale

Voices In My Head flac

Ashley Tisdale. 2019. Writer: Whitney Phillips;Scott Stewart;Dylan Mclean;John Feldmann;Ashley Tisdale.
17 Ashley Tisdale

Feeling So Good flac

Ashley Tisdale. 2019. Writer: Ashley Tisdale.
18 Ashley Tisdale

Under Pressure flac

Ashley Tisdale. 2019. Writer: John Feldmann;Ashley Tisdale.
19 Ashley Tisdale

Vibrations flac

Ashley Tisdale. 2019. Writer: Dylan Mclean;Scot Stewart;Rachel West;John Feldmann;Ashley Tisdale.
20 Ashley Tisdale

Looking Glass flac

Ashley Tisdale. 2019. Writer: Dylan Mclean;Scot Stewart;Rachel West;John Feldmann;Ashley Tisdale.

12 Comments

cj01
yaboihotkarl
smmy15643
Nick
RumpleDickSkin

Suggested posts

Other Sidney Fussell's posts

Language