Ein Kind rennt bei Rot über die Straße. Eine alte Frau wartet und geht bei Grün. Die Frage ist: Wer von beiden soll sterben?
Die Frage mag etwas drastisch erscheinen. Doch wenn in Zukunft unsere Straßen voll mit selbstfahrenden Autos sind, könnte die Antwort darauf sehr wichtig werden. Wie soll sich ein autonom fahrendes Fahrzeug entscheiden, wenn ein Unfall mit Personenschäden unausweichlich ist? Soll es lieber drei Fußgänger auf dem Zebrastreifen überfahren – oder ausweichen, dann aber gegen eine Mauer prallen und denjenigen töten, der im Auto sitzt?
Bild: Screenshot: Moral Machine/MIT
Weder Entwickler autonomer Mobilitätssoftware noch Ethiker haben darauf eine eindeutige Antwort. Deshalb haben Forscher vom renommierten Massachusetts Institute of Technology (MIT) in den vergangenen Jahren eine Umfrage durchgeführt, in der jeder Teilnehmer solche moralischen Szenarien durchspielen sollte – allerdings nur am Computer.
Millionen Freiwillige aus 233 Ländern und Regionen nahmen an der Befragung teil. 40 Millionen Mal wurden die Szenarien auf der Plattform durchgespielt. Die Ergebnisse haben die Forscher nun im Fachblatt "Nature" veröffentlicht. Die Umfrage ist nicht repräsentativ, weil überproportional viele junge Männer teilgenommen haben.
Du willst alle Szenarien durchspielen?
Du kannst weiterhin am Fragebogen teilnehmen – hier klicken.
Aus den Datensätzen zeigte sich, dass weltweit folgende Tendenzen relativ einheitlich verbreitet sind:
Menschenleben gehen vor Tierleben
je mehr Menschen verschont bleiben umso besser
junge Menschen wie Kinder sind besonders schützenswert
Wie würdest du dich entscheiden?
Bild: Screenshot: Moral Machine/MIT
Unter den Millionen Teilnehmern waren auch rund 493.000, die freiwillig einen Fragebogen mit Angaben zur eigenen Person ausfüllten. Daraus leiteten die Forscher ab, dass Menschen je nach ihrer regionalen und kulturellen Herkunft andere Entscheidungen trafen. Zum Beispiel:
Religiöse Menschen neigen etwas mehr dazu, die Leben anderer zu verschonen.
Die Bereitschaft, junge Menschen vor älteren zu schützen, ist weniger ausgeprägt in östlichen Ländern und stärker ausgeprägt in südlichen. (Wie östliche, westliche und südliche Länder kategorisiert wurden, steht in der Infobox unten)
Die Bereitschaft, Menschen mit höherem beruflichen Status zu schützen ist weniger ausgeprägt in östlichen Ländern und stärker ausgeprägt in südlichen.
Die Bereitschaft, Menschen vor Tieren zu schützen, ist weniger ausgeprägt in südlichen Ländern im Vergleich zu westlichen und östlichen Ländern.
In allen Ländergruppen herrscht eine ähnliche Bereitschaft, Fußgänger vor Autopassagieren und gesetzestreue Menschen vor jenen, die gegen das Gesetz verstoßen, zu schützen.
So unterteilten die Forscher in östliche, westliche und südliche Länder:
Zu Gruppe der östlichen Länder zählen die Forscher grob Staaten im fernen Osten, wie Japan, Taiwan, aber auch islamische Länder, wie Saudi-Arabien, Indonesien, Pakistan. Zur Gruppe der westlichen Länder zählen die Forscher Nordamerika und Europa. Zur Gruppe der südlichen Länder zählen die Forscher lateinamerikanische Staaten in Zentral- und Südamerika, aber auch Frankreich und Staaten, die irgendwann einmal unter französischer Herrschaft standen.
Die Umfrage und ihre Ergebnisse sind ein spannendes Gedankenspiel, mehr aber auch nicht, sagen Experten. Ethische Beschlüsse ließen sich daraus nicht ableiten. Das sagen Forscher, die nicht an der Studie beteiligt waren:
"In unserer Fahrschulpraxis werden auch Fahrschüler nicht auf diese Situationen vorbereitet. Und trotzdem akzeptieren wir, dass diese unvorbereiteten Fahrschüler einen Führerschein erhalten. Genauso würden wir dies auch bei autonomen Fahrzeugen akzeptieren – außer vielleicht, wenn die Medien dieses Thema abseits jeder Bedeutung aufbauschen."
Armin Grunwald, Leiter am Institut für Technikfolgenabschätzung und Systemanalyse, Karlsruher Institut für Technologie (KIT)Science Media Center
Wie würdest du dich entscheiden?
Bild: Screenshot: Moral Machine/MIT
Der Physiker und Technikfolgenabschätzer Armin Grunwald gesteht Online-Spielen zu, gewisse Vermutungen über menschliches Verhalten aufzustellen (Science Media Center). Ob das dann auch in der Wirklichkeit zutreffen würde, sei schwer zu beantworten. Er mahnt, dass sich die Ergebnisse des Spiels nicht einfach auf die Realität übertragen lassen.
"Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde. Ethik und Recht bedürfen anderer Quellen der Rechtfertigung, wie zum Beispiel einem gehaltvollen Menschenbild."
Silja Vöneky von der Universität Freiburg forscht auf den Gebieten Völkerrecht und Rechtsethik und sagt:
"Grundsätzlich finde ich das Ziel der Autoren, eine Debatte über die 'ethische Programmierung' von selbstfahrenden Autos anzustoßen, bevor diese auf unseren Straßen fahren, richtig. Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht – Dilemma-Situationen gab es bereits vor selbstfahrenden Autos; und mit den Menschenrechten gibt es bereits rechtlich bindende ethische Prinzipien, die zentrale universale Werte schützen, wie das Recht auf Leben und das Verbot von Diskriminierungen und die von über 160 Staaten ratifiziert sind. Wenn neue ethische Prinzipien gesucht werden, sollte dies auf dem Boden der Menschenrechte geschehen, das heißt Regulierungsvorschläge, UN-Deklarationen oder Kodizes dürfen nicht gegen Menschenrechte verstoßen."
Silja Vöneky, Professorin für Völkerrecht und Rechtsethik, Universität Freiburgscience media center
Vöneky weist außerdem darauf hin, dass die Gruppen, in denen die Länderergebnisse zusammengefasst werden, fraglich seien: So gebe es eine Gruppe westlicher Länder, aber auch eine Gruppe südlicher Länder, zu denen die Staaten Latein- und Südamerikas zählen, aber auch – und das kann Vöneky sich nicht erklären – Frankreich, das nicht den westlichen Ländern zugerechnet wird. Weiter sagt Vöneky:
"Nicht-repräsentative moralische Intuitionen können mit der Umfrage gemessen werden, ethischen Normen können so jedoch nicht begründet werden. Ethische Normen müssen, anders als faktische Intuitionen, auf guten Gründen beruhen, das heißt, gerechtfertigt werden können. Rechtfertigende, gute Gründe für eine bestimmte Lösung von Dilemmata-Situationen liefern die Autoren jedoch gerade nicht."
