Politik
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und die Werbung von watson und Werbepartnern zu personalisieren. Weitere Infos: Datenschutzerklärung.

Warum Apps wie Yelp so große Probleme mit Transphobie haben

Wer gerade bei der Empfehlungs-App Yelp in Berlin nach einem Lokal sucht, der bekommt auch transphobe Vorschläge.

Wer etwa beginnt "Tra" zu tippen, bekommt den Begriff "Transe" in der Autovervollständigung vorgeschlagen:

Bild

Der Begriff wird meist abwertend und verletztend für Trans-Menschen verwendet. Und es gibt ihn nicht nur in der deutschen Yelp-App auf. Zuvor hatte das US-amerikanische Nachrichtenmagazin Daily Beast über Probleme bei Yelp US berichtet.

Dort tauchte der transgender-feindliche Begriff "Tranny" immer wieder in den Suchanfragen auf. Wer das ganze Wort "Tranny" eingab, bekam in San Francisco sogar den Suchvorschlag "Tranny Massage" angeboten.

Eine Dating-Seite für Transmenschen hatte auf das Problem aufmerksam gemacht:

Das transphobe System

Eins vorweg, Yelp hat nicht alleine Probleme mit transphobem Vokabular. Sie kommen durch die Algorithmen zustande, die Plattformen wie Yelp häufig benutzen und programmieren.

Es handelt sich dabei um Computerprogramme, die Suchergebnisse und Newsfeeds für uns vorfiltern. Durch sie können Anbieter wie Facebook oder eben Yelp die für uns am interessantesten Such-Ergebnisse, Posts und Nachrichten präsentieren. Die Software dahinter ist meist ein gut gehütetes Geschäftsgeheimnis.

In der Vergangenheit gab es deshalb immer wieder Probleme:

Weil sie mit unseren Daten arbeiten, füttern wir Algorithmen auch mit unseren Vorurteilen, Fantasien und Meinungen. Eben mit allem, was wir so den lieben langen Tag online eintippen.

So lässt sich auch erklären, dass die Yelp-App  das Wort "Transe" mit bestimmten Lokalen in Berlin in Verbindung bringt. Vermutlich gab es zuvor viele Yelp-User, die Beleidigungen wie diese über die Besucher oder Besitzer mehrere Lokale in die Kommentare geschrieben hatten. Die App hat diesen Input dann verarbeitet und selbst angeboten.  

Der Extremfall:

Wo sowas enden kann, zeigte schon 2016 das Chat-Programm "Tay" von Microsoft.

Auf Twitter sollte es mit jungen Usern interagieren und mit den gewonnen Daten immer schlauere Sätze schreiben können:

Los legte Tay mit: "Stoked to meet you", Am Ende postete der Bot Sätze wie: "Hitler was right I hate Jews"

Die Programme können auch Inhalte unterdrücken, die völlig ok sind:

Ende 2017 etwa blockte ein Algorithmus von Twitter Bilder, die unter den Hasthags #Bisexual und #Bisexuality liefen. Nur, weil das Filter-Programm einen pornographischen Zusammenhang annahm.

So sah das aus:

Unter dem Strich gibt es zahllose Beispiel für Probleme, die durch Algorithmen auftauchen: Von der Suchanfrage, die nur weiße Menschen zeigt. Über das Löschen von kritischen inhalten. Bis hin zu automatisch generierten YouTube-Videos für Kinder, die brutalste Szenen zeigen. Alles kommt aus dem System.

Die große Debatte

Nun lassen sich Programme nicht einfach kontrollieren oder überwachen, wie das oft gefordert wird. Etwa im vergangenen Jahr vom damaligen Justizminister Heiko Maas: Ein Algorithmus spiegelt und verstärkt nur das, was er aus dem Internet aufsaugt. Die Software selbst hat keine eigene Meinung und wird auch in seltenen Fällen mit dem Ziel programmiert, homophob oder rassistisch zu sein.

Dennoch kritisieren Forscher und Netzpolitiker, dass Unternehmen ihre Programme gegenüber der Öffentlichkeit geheim halten.

Das sei unter anderem deshalb so gefährlich, weil mittlerweile kaum noch jemand nachvollziehen kann, wie ein Algorithmus überhaupt seine Entscheidungen trifft.

Der anerkannte IT-Sicherheitsexperte Bruce Schneier sagt sogar:

"Nicht einmal Google versteht seine Künstliche Intelligenz noch"

wired

Die Folgen von Fehlentscheidungen der Programme könnten in Zukunft sogar noch gravierender werden. Gerade debattieren Experten beinahe irre klingende Fragen: Wie soll man lernende Programme kontrollieren, die selbst und ohne Mensch über das Abfeuern einer tödlichen Rakete entscheiden? Was, wenn ein in Schieflage geratener Algorithmus darüber entscheidet, wer eine rettende Krebstherapie bekommt, und wer nicht?

Zwar gibt das neue Datenschutz-Gesetz der EU erste Antworten und Richtlinien für solche Fragen vor. Weil die Entwicklung der Systeme aber so schnell geht, und weil sie so kompliziert ist, kommt die öffentliche Debatte kaum hinterher.

So stolpern eben auch die Unternehmen selbst immer wieder über neue Fallbeispiele, wie jetzt eben das Wort "Transe", die für Negativschlagzeilen sorgen.

So reagiert Yelp

Wir haben Yelp gefragt, wie es selbst zu den Problemen in seiner App steht. Die US-Version hat das Wort "Tranny" bereits aus den Anfragen entfernt.

Auch in Deutschland verspricht die Plattform gegenüber watson, die "Transen" so schnell wie möglich offline zu nehmen.

Eine Sprecherin schreibt:

"Wir wollen noch einmal klar sagen, dass kein Mensch diese Ergebnisse und Vergleiche programmiert hat"

watson

Der Fehler komme aus der Maschine, sei ein Resultat der Verarbeitung von historischen User-Suchanfragen.

Das stimmt sicher, auch kann Yelp die betroffenen Wörter entfernen. Solange der Algorithmus das Problem aber nicht versteht, wird er auch in Zukunft Vorurteile lernen und wieder ausspucken.

Umfrage

Für wie groß haltet ihr die Probleme der Algorithmen?

  • Abstimmen

23

  • Groß, keiner hat die Programme wirklich mehr unter Kontrolle.48%
  • Keine Bange. Das ist ein technisches Problem, dafür muss es eine Lösung geben. Ich ruf mal den Admin an. 13%
  • Das hat ein Mensch programmiert, das kann man nicht alles auf die Software schieben. (Hat der Admin gesagt)9%
  • Ich bin heute zum ersten Mal hier in diesem internet, aber eine schöne Website habt ihr Watsons9%
  • 40413%

Mehr zum digitalen Leben:

watson-Redakteure verraten: So war mein 1. Mal im Internet

Link zum Artikel

Warum Schüler weiter kein besseres WiFi bekommen – ein Scheitern in 3 Akten

Link zum Artikel

Dieses Gesetz nervt Firmen und selbst Angela Merkel. Das sagt der Mann, der dahinter steht

Link zum Artikel

KI – wie China das Rennen um künstliche Intelligenz gewinnen will

Link zum Artikel

Die Grayscale-Funktion hat mich von meiner Handy-Sucht befreit

Link zum Artikel

Ihr könnt Siri jetzt Google nennen – mit diesem einfachen Trick

Link zum Artikel

Du findest Facebook immer noch sympathisch? Dann lies mal diesen (geheimen) Bericht

Link zum Artikel

Gewalt, Hass und Kinderpornos: So arbeitet die heimliche Müllabfuhr des Internets

Link zum Artikel

Neunjährige Rapperin prahlt auf Instagram mit ihrem Reichtum

Link zum Artikel

Programm erstellt Fake-Profilbilder – erkennst du den Unterschied?

Link zum Artikel
Alle Artikel anzeigen

Das könnte dich auch interessieren:

Warum Frauen an der Gitarre unterschätzt werden – Spoiler: Es hat mit Männern zu tun

Link zum Artikel

"Halt die Fresse, du erbärmliche Frau": Flugzeug-Crew droht 22-Jähriger mit Rausschmiss

Link zum Artikel

Zyklon "Idai": Zahl der Toten in Simbabwe auf 70 gestiegen

Link zum Artikel

Klimaschützerin Luise Neubauer: Anführerin einer wachsenden Bewegung

Link zum Artikel

19 Bilder, die dir zeigen: Es ist nicht alles, wie es scheint

Link zum Artikel

Tesla enthüllt das Model Y – so sieht es aus, und so viel kostet es

Link zum Artikel

Umstrittene Netflix-Doku zum Fall "Maddie" sorgt für Aufregung

Link zum Artikel

"Schulschwänzen nicht heilig sprechen" – Lindner schießt wieder gegen #FridaysForFuture

Link zum Artikel

Wie peinlich kann ein Sex-Date sein? Ja, lest mal dieses Jodlers Reim!

Link zum Artikel

Optische Täuschung: Künstlerin verschwindet dank Make-up in ihrer Umgebung

Link zum Artikel

Greta Thunberg in Schweden "Frau des Jahres"

Link zum Artikel

Katarina Barley: "Rabenmutter gibt's nur auf Deutsch"

Link zum Artikel

"Frauen der Mauer" von strengreligiösen Juden in Jerusalem bespuckt und beschimpft

Link zum Artikel

Wir waren mit Deutschlands bester Skaterin unterwegs. Sie ist 11 Jahre alt.

Link zum Artikel

9 Stars, denen völlig egal war, was Männer und Frauen tragen "sollten"

Link zum Artikel

In diesen Ländern haben die Frauen das Sagen (es sind immer noch zu wenige)

Link zum Artikel

Einen Tampon einzuführen erregt uns nicht und 32 weitere Wahrheiten über Frauen

Link zum Artikel

Der Tod des Patriarchats! Daenerys auf den Thron #TeamDaenerys

Link zum Artikel

"Pink Tax" für Frauen: Gleiches Produkt, gleicher Inhalt, aber teurer

Link zum Artikel

Ich habe mich mit Mama & Oma über Emanzipation unterhalten – es lief anders, als erwartet

Link zum Artikel

watson wird zur Frau! Ja, du hast richtig gelesen

Link zum Artikel

Virgin Atlantic hebt Make-up-Vorgaben auf – aber wieso gibt es die überhaupt noch?

Link zum Artikel

Sie hat alle überlebt, alleine dafür gebührt ihr der Thron #TeamSansa

Link zum Artikel

Chinesische "Harry Potter"-Fans reisten nach Sydney – sie dachten, dass dort Hogwarts sei

Link zum Artikel

#VansChallenge – Warum jetzt überall Sneaker durch die Luft fliegen

Link zum Artikel

Trumps Twitter-Feed ist verrückt? Dann schau dir mal den von Brasiliens Präsidenten an

Link zum Artikel

Die beliebtesten Länder-Slogans – erkennt ihr den Spruch eures Bundeslandes?

Link zum Artikel

Trump nennt den Apple-CEO "Tim Apple" – und die Reaktionen sind großartig

Link zum Artikel

Der Hundewurf von Straubing – und was die AfD daraus macht

Link zum Artikel

Diese Russin ist ein Insta-Star – weil sie ihr Wald-Leben inszeniert wie eine Stadt-Ikone

Link zum Artikel

So romantisch wie Fußnägelschneiden – Erster Heiratsantrag bei Jauch via Telefonjoker

Link zum Artikel

Wenn die Sonne stirbt, ist das wie ein leiser Pups

Link zum Artikel

Zitterpartie Brexit – Geht Mays Strategie schief? Und 5 weitere Fragen

Link zum Artikel

Die Oscars werden zum Queengasmus – unser Protokoll der Nacht

Link zum Artikel

Forscher stehen vor Rätsel: Was macht ein toter Wal im Dschungel?

Link zum Artikel

Darf er das? Chelsea-Torwart verweigert Auswechslung – sein Trainer tobt

Link zum Artikel

Es ist so warm in Deutschland, dass auch schon die Mücken unterwegs sind

Link zum Artikel

Grimassen und getretene Kleider – 13 Dinge, die du in der Oscar-Nacht verpasst hast

Link zum Artikel
Alle Artikel anzeigen
0
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
0Alle Kommentare anzeigen

"Glaube an Dich und Deine Ziele" – Das ist Malu Dreyer

31 Tage, 31 Frauen. Im Monat März werden wir anlässlich des "Women's History Month" bei watson jeden Tag eine bemerkenswerte Frau vorstellen. Tag 11: Die Ministerpräsidentin von Rheinland-Pfalz Malu Dreyer.

Bevor Malu Dreyer schlafen geht, packt sie ihre Sorgen in ein Marmeladenglas. Das löst zwar keine Probleme, aber es hilft ihr, mit Nöten und Sorgen umzugehen. Weil sie die Dinge gerne ablegt, wie sie es einmal formulierte, statt die ganze Nacht darüber zu grübeln.

Zum Grübeln bringt die Vize-Vorsitzende der SPD und Ministerpräsidentin von Rheinland-Pfalz heute vor allem politische Gegner und Genossen gleichermaßen. CDU-Frau Julia Klöckner beispielsweise, die ihr Glück mittlerweile in Berlin …

Artikel lesen
Link zum Artikel