Gefahr durch KI: Google Veo bringt rassistische Videos in Umlauf

Der KI-Video-Generator Veo 3 wurde einst als absolute Errungenschaft gefeiert. Bild: AP / Jeff Chiu

Missbrauchspotenzial von KI: Rassistische Videos verbreiten sich auf Tiktok

Nathalie Trappe

Folgen

Künstliche Intelligenz bewegt sich längst nicht mehr nur im Reich der Science-Fiction. Was einst wie dystopische Zukunftsmusik klang, ist heute Realität: Chatbots und Generatoren haben sich von banalen Rezeptvorschlägen emanzipiert, lösen alltägliche Probleme und hochkomplexe Programmieraufgaben.

In einer US-amerikanischen Umfrage gaben laut "t3n" kürzlich 58 Prozent der Befragten an, daran zu glauben, dass KI irgendwann die Weltherrschaft an sich reißen wird. Noch macht einem so mancher Fehler im täglichen Chat-GPT-Rausch zwar das Gegenteil bewusst. Doch schon jetzt eröffnen sich in der Welt von KI deutliche Abgründe.

Tiktok: Rassistische KI-Videos gehen viral

So trenden auf Tiktok aktuell zahlreiche Videos mit rassistischen und antisemitischen Inhalten. Wie das Portal "mediamatters" berichtet, wurden diese mit dem Videogenerator Veo von Google erstellt. Darauf weise ein entsprechender Schriftzug im Bild sowie verschiedene Verzerrungen im Video hin.

Die KI Veo, die aus Text Bewegtbild macht, ist seit Mai verfügbar und stand bereits mehrfach im Fokus von Debatten um Desinformation. Denn die Videos wirken meist nicht nur auf den ersten, sondern auch auf den zweiten Blick täuschend echt.

Auf Tiktok wird das inzwischen für verstörende Zwecke genutzt: Dort kursieren Aufnahmen, die Gewalt gegen Schwarze Menschen zeigen oder Szenen aus Konzentrationslagern inszenieren.

Besonders auffällig ist in den Videos laut "mediamatters" das wiederkehrende Bild des Affen. Dieses wird in den Videos immer wieder zur Reproduktion rassistischer Stereotype und zur Entmenschlichung Schwarzer Personen genutzt.

Heftige Kritik an KI-Videos von Google Veo

Viele der Clips haben auf Tiktok fast eine Million Aufrufe. In den Kommentaren wird deutlich, dass den Nutzer:innen durchaus der rassistische Hintergrund der Inhalte bewusst ist.

"KI ist seit fünf Minuten hier und es hat schon black fatigue", kommentiert ein Nutzer unter einem Video. Zum Kontext: Unter dem Begriff "Black Fatigue" werden Erschöpfungserscheinungen und mentale Probleme zusammengefasst, die Schwarze Personen durch ihre Diskriminierungserfahrungen entwickeln.

Doch auch andere Gruppen werden in den mit Veo erstellten Videos rassifiziert und diskriminiert. Zum Teil werden dabei gewaltverherrlichende Szenen dargestellt.

Eigentlich verbieten die Community-Richtlinien von Tiktok jegliche Inhalte, die zur "Förderung von Gewalt, Ausschluss, Abgrenzung, Diskriminierung und anderen schädigenden Verhaltensweisen" beitragen. Vielfach wird die Plattform jedoch kritisiert, entsprechenden Content nicht aus dem Verkehr zu ziehen.

Die von "mediamatters" analysierten Videos jedenfalls bleiben bisher auch auf Tiktok sichtbar. Die Möglichkeit, die rassistischen Videos weiterzuverbreiten, bleibt damit ebenfalls bestehen.