Massen an Daten zirkulieren im Internet, jede Sekunde werden Unmengen neuer Inhalte hochgeladen. Ein Großteil davon ist harmlos. Doch es mischen sich auch fragwürdige darunter, die etwa Gewalt, Selbstverletzung oder Pornografie beinhalten. In den vergangenen Jahren haben diverse Plattformen sich daher dazu entschieden, ihre Nutzer:innen vor derartigem Content zu schützen.
Während manche Inhalte dabei gänzlich verboten sind, wie auf Instagram etwa die Darstellung weiblicher Brustwarzen, gibt es bei anderen sensiblen Inhalten zunächst eine Warnung. So müssen Nutzer:innen ausdrücklich zustimmen, das Bild oder Video dennoch sehen zu wollen. Zuvor ist der Inhalt geblurrt, sodass der Content nicht sichtbar ist.
Nun zieht Google nach und erweitert die Einstellungen für seine Suchmaschine. Bisher gibt es nur für Minderjährige einen solchen Schutz. Ihnen wird sensibler Inhalt gar nicht erst angezeigt. Darunter fallen nicht nur Bilder und Videos, sondern auch Texte und Links.
Erwachsenen hingegen wurde bis dato alles ungefiltert angezeigt. Das soll sich jetzt jedoch zumindest für "explizite" Bilder ändern. So kündigte Google in seinem Blog an, auf jedem Google-Account das sogenannte "SafeSearch Blurring" zu aktivieren. Gewalt und Pornografie werden somit künftig erst einmal bei jedem unscharf angezeigt, sofern die Funktion nicht bewusst deaktiviert wird.
Nutzer:innen können dadurch erst durch bewusste Zustimmung entscheiden, das jeweilige Bild anzusehen. Was von Google konkret als "explizit" eingestuft wird, ist allerdings noch nicht klar. Instagram wendet diese Schutz-Funktion etwa auf Fotos von Personen mit Selbstverletzungsnarben an.
Content-Warnungen kommen gut an. Viele Nutzer:innen zeigen sich dankbar dafür. Google lässt sich diese Erweiterung der "sicheren Suche" nun einiges kosten. Zwar übernehmen künstliche Intelligenzen inzwischen das Filtern zu einem Großteil, jedoch nicht gänzlich.
In verschiedenen Ländern gibt es deshalb hunderte "Content-Moderator:innen", die mögliche gewaltvolle Videos angucken und entscheiden, ob diese gebannt oder geblurrt werden sollten. Hier wird Google nun weiter aufstocken müssen.
Der Joballtag der sogenannten "Content-Moderator:innen" geriet in der Vergangenheit bereits in die Kritik: So berichteten in der Dokumentation "The Cleaners" die eigentlich vertraglich zum Schweigen verpflichteten Angestellten, dass dieser Beruf mit einer immensen psychischen Belastung einhergehe. Kein Wunder. Schließlich gehört es auch zum Job, sich etwa Videos von Kindesmissbrauch oder gewaltvollen Darstellungen wie Enthauptungen anzusehen.
