Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und die Werbung von watson und Werbepartnern zu personalisieren. Weitere Infos: Datenschutzerklärung.

Warum Apps wie Yelp so große Probleme mit Transphobie haben

Wer gerade bei der Empfehlungs-App Yelp in Berlin nach einem Lokal sucht, der bekommt auch transphobe Vorschläge.

Wer etwa beginnt "Tra" zu tippen, bekommt den Begriff "Transe" in der Autovervollständigung vorgeschlagen:

Bild

Der Begriff wird meist abwertend und verletztend für Trans-Menschen verwendet. Und es gibt ihn nicht nur in der deutschen Yelp-App auf. Zuvor hatte das US-amerikanische Nachrichtenmagazin Daily Beast über Probleme bei Yelp US berichtet.

Dort tauchte der transgender-feindliche Begriff "Tranny" immer wieder in den Suchanfragen auf. Wer das ganze Wort "Tranny" eingab, bekam in San Francisco sogar den Suchvorschlag "Tranny Massage" angeboten.

Eine Dating-Seite für Transmenschen hatte auf das Problem aufmerksam gemacht:

Das transphobe System

Eins vorweg, Yelp hat nicht alleine Probleme mit transphobem Vokabular. Sie kommen durch die Algorithmen zustande, die Plattformen wie Yelp häufig benutzen und programmieren.

Es handelt sich dabei um Computerprogramme, die Suchergebnisse und Newsfeeds für uns vorfiltern. Durch sie können Anbieter wie Facebook oder eben Yelp die für uns am interessantesten Such-Ergebnisse, Posts und Nachrichten präsentieren. Die Software dahinter ist meist ein gut gehütetes Geschäftsgeheimnis.

In der Vergangenheit gab es deshalb immer wieder Probleme:

Weil sie mit unseren Daten arbeiten, füttern wir Algorithmen auch mit unseren Vorurteilen, Fantasien und Meinungen. Eben mit allem, was wir so den lieben langen Tag online eintippen.

So lässt sich auch erklären, dass die Yelp-App  das Wort "Transe" mit bestimmten Lokalen in Berlin in Verbindung bringt. Vermutlich gab es zuvor viele Yelp-User, die Beleidigungen wie diese über die Besucher oder Besitzer mehrere Lokale in die Kommentare geschrieben hatten. Die App hat diesen Input dann verarbeitet und selbst angeboten.  

Der Extremfall:

Wo sowas enden kann, zeigte schon 2016 das Chat-Programm "Tay" von Microsoft.

Auf Twitter sollte es mit jungen Usern interagieren und mit den gewonnen Daten immer schlauere Sätze schreiben können:

Los legte Tay mit: "Stoked to meet you", Am Ende postete der Bot Sätze wie: "Hitler was right I hate Jews"

Die Programme können auch Inhalte unterdrücken, die völlig ok sind:

Ende 2017 etwa blockte ein Algorithmus von Twitter Bilder, die unter den Hasthags #Bisexual und #Bisexuality liefen. Nur, weil das Filter-Programm einen pornographischen Zusammenhang annahm.

So sah das aus:

Unter dem Strich gibt es zahllose Beispiel für Probleme, die durch Algorithmen auftauchen: Von der Suchanfrage, die nur weiße Menschen zeigt. Über das Löschen von kritischen inhalten. Bis hin zu automatisch generierten YouTube-Videos für Kinder, die brutalste Szenen zeigen. Alles kommt aus dem System.

Die große Debatte

Nun lassen sich Programme nicht einfach kontrollieren oder überwachen, wie das oft gefordert wird. Etwa im vergangenen Jahr vom damaligen Justizminister Heiko Maas: Ein Algorithmus spiegelt und verstärkt nur das, was er aus dem Internet aufsaugt. Die Software selbst hat keine eigene Meinung und wird auch in seltenen Fällen mit dem Ziel programmiert, homophob oder rassistisch zu sein.

Dennoch kritisieren Forscher und Netzpolitiker, dass Unternehmen ihre Programme gegenüber der Öffentlichkeit geheim halten.

Das sei unter anderem deshalb so gefährlich, weil mittlerweile kaum noch jemand nachvollziehen kann, wie ein Algorithmus überhaupt seine Entscheidungen trifft.

Der anerkannte IT-Sicherheitsexperte Bruce Schneier sagt sogar:

"Nicht einmal Google versteht seine Künstliche Intelligenz noch"

wired

Die Folgen von Fehlentscheidungen der Programme könnten in Zukunft sogar noch gravierender werden. Gerade debattieren Experten beinahe irre klingende Fragen: Wie soll man lernende Programme kontrollieren, die selbst und ohne Mensch über das Abfeuern einer tödlichen Rakete entscheiden? Was, wenn ein in Schieflage geratener Algorithmus darüber entscheidet, wer eine rettende Krebstherapie bekommt, und wer nicht?

Zwar gibt das neue Datenschutz-Gesetz der EU erste Antworten und Richtlinien für solche Fragen vor. Weil die Entwicklung der Systeme aber so schnell geht, und weil sie so kompliziert ist, kommt die öffentliche Debatte kaum hinterher.

So stolpern eben auch die Unternehmen selbst immer wieder über neue Fallbeispiele, wie jetzt eben das Wort "Transe", die für Negativschlagzeilen sorgen.

So reagiert Yelp

Wir haben Yelp gefragt, wie es selbst zu den Problemen in seiner App steht. Die US-Version hat das Wort "Tranny" bereits aus den Anfragen entfernt.

Auch in Deutschland verspricht die Plattform gegenüber watson, die "Transen" so schnell wie möglich offline zu nehmen.

Eine Sprecherin schreibt:

"Wir wollen noch einmal klar sagen, dass kein Mensch diese Ergebnisse und Vergleiche programmiert hat"

watson

Der Fehler komme aus der Maschine, sei ein Resultat der Verarbeitung von historischen User-Suchanfragen.

Das stimmt sicher, auch kann Yelp die betroffenen Wörter entfernen. Solange der Algorithmus das Problem aber nicht versteht, wird er auch in Zukunft Vorurteile lernen und wieder ausspucken.

Umfrage

Für wie groß haltet ihr die Probleme der Algorithmen?

  • Abstimmen

24

  • Groß, keiner hat die Programme wirklich mehr unter Kontrolle.50%
  • Keine Bange. Das ist ein technisches Problem, dafür muss es eine Lösung geben. Ich ruf mal den Admin an. 13%
  • Das hat ein Mensch programmiert, das kann man nicht alles auf die Software schieben. (Hat der Admin gesagt)8%
  • Ich bin heute zum ersten Mal hier in diesem internet, aber eine schöne Website habt ihr Watsons8%
  • 40413%

Mehr zum digitalen Leben:

Die Grayscale-Funktion hat mich von meiner Handy-Sucht befreit

Link zum Artikel

Neunjährige Rapperin prahlt auf Instagram mit ihrem Reichtum

Link zum Artikel

watson-Redakteure verraten: So war mein 1. Mal im Internet

Link zum Artikel

Du findest Facebook immer noch sympathisch? Dann lies mal diesen (geheimen) Bericht

Link zum Artikel

Gewalt, Hass und Kinderpornos: So arbeitet die heimliche Müllabfuhr des Internets

Link zum Artikel

Dieses Gesetz nervt Firmen und selbst Angela Merkel. Das sagt der Mann, der dahinter steht

Link zum Artikel

Ihr könnt Siri jetzt Google nennen – mit diesem einfachen Trick

Link zum Artikel

KI – wie China das Rennen um künstliche Intelligenz gewinnen will

Link zum Artikel

Warum Schüler weiter kein besseres WiFi bekommen – ein Scheitern in 3 Akten

Link zum Artikel

Programm erstellt Fake-Profilbilder – erkennst du den Unterschied?

Link zum Artikel
Alle Artikel anzeigen

Das könnte dich auch interessieren:

"Grenze überschritten": GNTM-Vanessa wehrt sich gegen ProSieben – Simone schaltet sich ein

Link zum Artikel

Die Live-Hochzeit bei "GNTM" war das Peinlichste, was ProSieben je ausgestrahlt hat

Link zum Artikel

"GNTM": Nach der Irrsinns-Hochzeit gewinnt Simone

Link zum Artikel

"GNTM"-Finale: Fake-Auftritt von Taylor Swift verärgert Fans

Link zum Artikel

Youtuber Rezo greift die CDU an – so wehrt sich die Partei

Link zum Artikel

Heidi startet ins "GNTM"-Finale – und liefert gleich 3 peinliche Momente

Link zum Artikel

Capital Bra versucht sein Glück bei Helene Fischer – das ist ihre Reaktion

Link zum Artikel

Daenerys wer? Die 17 fatalen Probleme im Finale von "Game of Thrones"

Link zum Artikel

Oops, they did it again: Fans entdecken peinlichen Fehler im "GoT"-Finale

Link zum Artikel

"GoT": Doku zeigt, wie Kit Harington am Set in Tränen ausbrach – jetzt wissen wir, warum

Link zum Artikel

Diese 13 Memes über Bran in "Game of Thrones" bringen dich trotz allem zum Lachen

Link zum Artikel

Das "GoT"-Finale war meine allererste Folge der Show – das habe ich über die Serie gelernt

Link zum Artikel

ESC: Peinlich! Sisters geben zu, wo sie bei der Punktevergabe waren

Link zum Artikel

Herzzerreißende "GoT"-Szene mit Daenerys und Jon – Fans sind erschüttert

Link zum Artikel

So emotional nehmen die "GoT"-Stars nach dem Finale Abschied von der Serie

Link zum Artikel

"GoT": 8 Fehler, die dir genauso entgangen sind wie der Kaffeebecher

Link zum Artikel

Achtung, Spoiler! Die besten Reaktionen zum "Game of Thrones"–Finale

Link zum Artikel

"Game of Thrones"-Autor gibt Hinweis, wie es nach dem Ende der Serie weitergeht

Link zum Artikel

Vanessa rechnet nach "GNTM"-Aus mit ProSieben ab – jetzt antwortet der Sender

Link zum Artikel

Das sagt Lena Meyer-Landrut den S!sters vor dem ESC– ein großer Fan ist sie wohl nicht

Link zum Artikel

So sehen BTS als alte Männer aus – und wir haben Fragen

Link zum Artikel

Darum ist das neue Album nur zu 80 Prozent Rammstein – eine (kleine) Enttäuschung

Link zum Artikel

ESC 2019: Dieter Bohlen über Luca Hänni: "Ich hätte den Mut dazu nie gehabt"

Link zum Artikel

Der neue Song von Shirin David ist eine Abrechnung mit ihrem Vater

Link zum Artikel

Samra und Capital Bra: Neuer Song Wieder Lila ist schon jetzt ein Hit

Link zum Artikel

16 Cartoons, die unsere Gesellschaft auf den Punkt bringen

Link zum Artikel

Strache-Skandal in Österreich – Kanzler Kurz soll Neuwahlen wollen

Link zum Artikel

"Zweifel, Ängste, schlaflose Nächte" – Das sagen "die Lochis" zu ihrem Aus

Link zum Artikel

Lena Meyer-Landrut macht Fan mit Post bei Instagram glücklich

Link zum Artikel

Falscher Professor? Vorwürfe gegen einen AfD-Europakandidaten

Link zum Artikel

Pressekonferenz in Sonnenbrille: Loredana streitet Betrug ab und wird laut

Link zum Artikel

Warum sind wir manchmal traurig nach dem Sex?

Link zum Artikel

Ed Sheeran und Justin Bieber: "I Don't Care" kann der Song des Sommers werden

Link zum Artikel

16 peinlichen Instagram-Werbungen, die nach hinten losgegangen sind

Link zum Artikel

180 Staaten bekämpfen jetzt den Plastikmüll – mit einem globalen Pakt

Link zum Artikel

Dieser seltsame Vogel ist ausgestorben ... kommt aber immer wieder zurück von den Toten

Link zum Artikel

Ariana Grande und BTS: Insider verrät, dass gemeinsamer Song "nur eine Frage der Zeit" ist

Link zum Artikel

Sie soll ein Paar um 614.000 Euro betrogen haben – Rapperin Loredana festgenommen

Link zum Artikel

Helene Fischer lief weg und schrie: Luxus-Makler plaudert über den Hauskauf mit Flori

Link zum Artikel
Alle Artikel anzeigen
0
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
0Alle Kommentare anzeigen

"Die EU hat geschafft, dass Nerds und Geeks auf die Straße gehen" – Demo gegen Artikel 13

Die EU hat es mit dem monatelangen Prozedere um die Urheberrechtsreform geschafft, dass es nicht mehr die Alten sind, die das Internet ausdrucken. Am Samstagmittag stehen etwa 3500 Menschen vor dem Hochhaus des Axel-Springer-Verlags in Berlin und protestieren. Gegen Artikel 11, 12 und vor allem 13 der EU-Reform. Gegen drohende Uploadfilter und für ein freies Internet. Viele von ihnen halten Memes in der Hand, ausgedruckt und auf Schilder geklebt.

Memes sind hier nicht nur Stilmittel. Sie sind ein …

Artikel lesen
Link zum Artikel