Aktivistinnen und Aktivisten kämpfen dafür, dass automatisierte Gender-Erkennungssysteme in der EU verboten werden. Transmenschen oder nonbinäre Menschen werden davon nämlich nicht erkannt, sagen sie – und auf diese Weise gesellschaftlich ausgeschlossen und diskriminiert.
Dass Gesichtserkennung potenziell fehlerbehaftet und gefährlich ist, darüber berichten wir regelmäßig. Das Thema wird viel diskutiert. Bürgerrechtsorganisationen warnen jetzt, dass es ein ähnlich bedenkliches Anwendungsszenario für eine KI-Technologie gibt, die bisher unter dem Radar geblieben ist: Gender Recognition Tech – Geschlechtserkennungssysteme, die Menschen automatisch ein Geschlecht oder eine sexuelle Orientierung zuweisen. Diese Technik kommt viel häufiger zum Einsatz, als uns vielleicht bewusst ist.
Analyse von Stimme oder Shoppingverhalten
Zum einen gibt es, wie das Techblog The Verge schreibt, Software, die unsere Stimme oder unser Shoppingverhalten analysiert und uns dann automatisch ein Geschlecht zuweist. Menschen, die zum Beispiel Tampons und Kleider kaufen und mit einer hohen Stimme sprechen, werden als weiblich definiert.
Am häufigsten findet sich Gender Recognition aber als Unterfunktion gängiger Gesichtserkennungssoftware. Fast alle kommerziellen Gesichtserkennungssysteme von Firmen wie Amazon oder Microsoft bieten die Erkennung des Geschlechts als Standardfeature an. Kurzes Haar deutet auf Männer hin, Makeup eher auf Frauen, ähnliche Aussagen werden aufgrund der Knochenstruktur oder der Gesichtsform getroffen.
"Die Software ist nach dem alten Standardmodell Männlein und Weiblein aufgezogen. Transmenschen oder nonbinäre Menschen kommen hier schlicht nicht vor."
Das Problem dabei ist, dass diese Software nach dem alten Geschlechtermodell Mann und Frau programmiert wurde. Transmenschen oder nonbinäre Menschen fallen durch das Raster. Genau dagegen wenden sich jetzt Aktivistinnen und Aktivisten. In einer aktuellen Kampagne setzen sie sich dafür ein, dass diese Systeme auf EU-Ebene verboten werden.
EU will KI-Systeme reglementieren
Die Kampagne kommt zur passenden Zeit. Denn die EU plant, den Einsatz von KI-Systemen zu reglementieren. Bisher können Unternehmen hier weitestgehend machen, was sie wollen. Die Bürgerrechtorganisation Access Now und 60 weitere NGOs finden: Wenn das jetzt auf EU-Ebene neu sortiert wird, dann reglementiert bitte nicht nur Gesichtserkennung und Social Scoring, sondern verbietet auch Gender Recognition.
Die Kampagne hat auch einen Brief an die EU-Kommission geschrieben. Die Unterzeichnenden fühlen sich von den bisher bestehenden Systemen diskriminiert.
Leuchtreklame, Apps, Marketingaktionen
Ein Beispiel, das wir in Zukunft noch viel häufiger sehen werden, sind zum Beispiel digitale Leuchtreklamen, sagt Deutschlandfunk-Nova-Netzreporterin Martina Schulte. Diese analysieren automatisch, wer da gerade an der Bushaltestelle steht – ein Mann oder eine Frau. Den Wartenden wird dann passgenaue Werbung vorgespielt.
Außerdem gibt es digitale Orte, die nur für ein Geschlecht gedacht sind: Bei der Social-App Giggle wacht zum Beispiel eine KI über den Zugang, indem sie das Geschlecht einer interessierten Person anhand hochgeladener Selfies analysiert. Rein kommt nur, wer von der KI als Frau erkannt wird.
Und auch bei Marketing-Aktionen hier bei uns in Deutschland kam bereits Gender Recognition Tech zum Einsatz: Vor zwei Jahren gaben die Öffis der Berliner BVG am Equal Pay Day weiblichen Fahrgästen an einem speziellen Ticketautomaten vergünstigte Tageskarten und 160 Euro Rabatt auf ein Jahresticket. Der Automat scannte dazu das Gesicht der Kundinnen und Kunden und ordnete ihnen ein Geschlecht zu.
"Die Technologie könnte künftig auch angewandt werden, um den Zugang zu Umkleiden oder Toiletten zu regeln, befürchten Aktivistinnen und Aktivisten."
Eine derartige Technologie sei unvereinbar mit dem Bekenntnis der EU zu den Menschenrechten, sagt Daniel Leufer von Access Now. Die Aktivistinnen und Aktivisten haben die Sorge, dass Gender Recognition Tech künftig auch angewandt werden könnte, um den Zugang zu Umkleiden oder Toiletten zu regeln.
Ob die Kampagne Erfolg hat, werden wir ab nächster Woche sehen – denn dann wird die EU ihre Vorstellungen zur KI-Reglementierung vorstellen.