Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und die Werbung von watson und Werbepartnern zu personalisieren. Weitere Infos: Datenschutzerklärung.

"Künstliche Intelligenz wird unser Gott sein"

Künstliche Intelligenz  (KI) verspricht große Fortschritte in der Medizin und in der Forschung. Aber sie weckt auch Ängste vor Jobverlust und totaler Überwachung. Sind wir auf dem Weg ins Paradies oder in die Hölle? Antworten gibt der Ethik-Professor und KI-Experte Thomas Metzinger. 

Philipp Löpfe 

Bei der Diskussion um Künstliche Intelligenz (KI) weiß man nie so recht, ob wir nun auf ein irdisches Paradies hinsteuern – oder in die Hölle. Wie sehen Sie das?
Es gibt verschiedenste Risiken und für diese Risiken gibt es sehr unterschiedliche Vorhersagehorizonte. Superintelligenz beispielsweise ist gleichzeitig ein Versprechen und eine Bedrohung, aber es ist auch noch Science Fiction, weil es noch in weiter Ferne liegt.    

Bleiben wir zunächst in der Gegenwart und der nahen Zukunft. Was können wir da von KI erwarten?
Da gibt es sicher die berechtigte Angst, dass KI im großen Stil Arbeitsplätze vernichten wird. Es gibt Studien, die besagen, dass bis 2030 rund die Hälfte aller amerikanischen Arbeitsplätze gefährdet sind. Doch man muss auch verstehen, dass KI keine einheitliche Technologie ist, sondern eine Meta-Technologie, eine Technologie also, die andere Technologien intelligenter macht.

"Alle sprechen von Digitalisierung, aber niemand weiß, was damit gemeint ist."

Woran denken Sie konkret?
An das Gesundheitswesen, an den Transport, an die Wissenschaft. Wo uns KI am meisten nützen wird, können wir heute noch nicht abschätzen. Sicher ist, dass KI eine Industrie geworden ist, mit der sehr viel Geld verdient wird.

Sie sind Philosoph. Wie sind Sie auf KI gekommen?
Ich arbeite seit 35 Jahren mit Neuro- und Kognitionswissenschaftlern zusammen. Jetzt haben wir plötzlich diesen Hype, alle sind ganz aufgeregt. Alle sprechen nun von KI und "Digitalisierung" – was immer das eigentlich genau bedeuten soll. In Deutschland wurde einiges verschlafen, und jetzt soll alles über Nacht nachgeholt werden. Aber wie? Heißt das, dass überall Glaskabel hinmüssen? Das schaffen wir nicht, das ist wie mit dem Berliner Flughafen. Oder brauchen wir autonome Waffensysteme für das Militär? Viel eher geht es darum, ein KI-Wettrüsten zwischen Trumpistan und China vielleicht doch noch irgendwie zu verhindern. Oder müssen wir dafür sorgen, dass unsere eigene Industrie noch möglichst viel verkaufen kann? Kurz: Alle sprechen von Digitalisierung, aber niemand weiß, was damit gemeint ist.  

Für den Durchschnittsbürger heißt es beispielsweise: Er kann sich jetzt mit seinem Smartphone unterhalten. Oder er kann mit seinem digitalen Assistenten wie Alexa oder Siri online einkaufen und Restauranttische oder Kinokarten reservieren.
Das Schöne am Beruf des Hochschullehrers ist, dass man sieht, wie junge Generationen heranwachsen. Was heute auffällt, ist die Tatsache, dass viele Studenten nicht mehr so gut lesen und schreiben können. An den Universitäten bekommen wir heute junge Menschen, die ein Abitur in der Tasche haben, die aber eigentlich die "Hochschulreife" nicht besitzen, weil sie keinen korrekten deutschen Satz mehr formulieren können, weil sie die ganze Zeit nur per SMS oder WhatsApp getextet haben.  

Ist das nicht eine bekannte Klage nicht mehr ganz junger Professoren über die Jugend?
Nein, nur zum Teil. Auch ich finde es fantastisch, wie viele Sprachfehler beispielsweise Google zulässt und trotzdem die richtige Antwort findet. Doch wir verlieren auch elementare Fähigkeiten wie beispielsweise das Lesen von Karten – oder dicken philosophischen Büchern ohne bunte Bilder und Videos. Das Neue ist gut, aber wir müssen die alten Kulturtechniken bewahren und pflegen.    

Image

Als der Bücherwagen noch kam. imago

Teilen Sie die These, wonach die neuen Medien auch physiologisch das Gehirn der Menschen verändert? Dass, wer sich nur noch am Smartphone oder am Bildschirm informiert, gar nicht mehr in der Lage ist, eine Zeitung oder ein Buch zu verstehen?
Die Wochenzeitung "Zeit" zum Beispiel war einst ein Blatt der Professoren und der Intellektuellen, in dem wichtige Debatten geführt wurden. Mittlerweile ist sie zu einer Kirchenzeitung verkommen, in der es hauptsächlich um kultivierte Selbstgefälligkeit und gehobenes virtue signalling geht. Ich habe mir abgewöhnt, meine Studenten zu fragen: Habt Ihr letzten Donnerstag in der "Zeit" das und das gelesen? Da werde ich angestarrt, als wäre ich ein Auto. In der "Zeit" schreiben alte, eitle Professoren, Kirchenvertreter, und Leute, die sich gerne "Intellektuelle" nennen – überwiegend für sich selbst. Von den Jungen, selbst von den bestens informierten Doktoranden, hat anscheinend niemand mehr das Gefühl, das sei für sie relevant. Liegt das jetzt an der "Zeit" oder am Internet?

Beunruhigt Sie das?
Ja. Die jungen Leute werden mit großen Krisen konfrontiert werden: mit Schuldenkrise, Klimawandel, globaler Migration, usw. Ich glaube nicht, dass sie dafür gerüstet sind.

Aktivisten besetzen den Tagebau Hambacher aus Protest gegen Kohlekraft  imago

Warum nicht?
Sie haben vielleicht gelernt, dass sie mit den Smartphone jederzeit in eine virtuelle Welt flüchten können, wenn sie in der realen auf etwas Unangenehmes treffen. Wenn es im Tram langweilig ist oder ein hässlicher Penner gegenübersitzt, dann können sie ein Game anklicken – und schon sieht die Welt wieder rosig aus. Wir alle können viel leichter dissoziieren.

"Eine Gesellschaft, die vom KI-System optimiert wird, würde  unser liberales Verständnis der individuellen Freiheit auf den Kopf stellen."

Glücklichsein wird zur Pflicht. Inzwischen gibt es sogar einen Happimeter, eine Smartwatch, die permanent misst, ob wir glücklich sind oder nicht.
In China gibt es eine verschärfte Variante davon, die "social credit points". Damit wird ihr soziales Verhalten mit Hilfe von KI permanent überwacht. In diesem System wird politischer Widerstand zunehmend unmöglich.

Andererseits könnte man ja das System so programmieren, dass die Menschen gezwungen werden, sich tolerant und altruistisch zu verhalten.
Im Prinzip kann man sich eine Gesellschaft vorstellen, die von einem KI-System optimiert wird. Und es ist ja auch wichtig, dass wir die Demokratie nicht einfach nur schützen, sondern dass wir sie weiterentwickeln und an veränderte Umstände anpassen. Als oberster Wert könnte man eingeben: Leiden vermindern, sei es bei Menschen oder Tieren. Ein solches System würde vielleicht zu überraschenden Ergebnissen kommen. Es würde aber auch unser liberales Verständnis der individuellen Freiheit auf den Kopf stellen.

"Sie dürfen keine Kinder haben, sondern müssen sie aus Bangladesch adoptieren."

Wir dürften auch nicht mehr unglücklich sein.
Warum muss ich auf Teufel komm raus nach Freiheit und Glück streben? Auf der Suche nach dem Glück greifen Expertensysteme immer häufiger in unser Leben ein, beispielsweise in der Partnerwahl. KI hilft uns, den idealen Partner zu finden. Aber was mache ich, wenn ich mich unsterblich in eine Frau verliebe, mir die KI jedoch sagt, dass bei dieser Partnerin das Scheidungsrisiko bei 68 Prozent liegt? Sage ich dann als Mensch noch: Das ist mir ganz egal?

Image

Bild: imago

Wird das Leben nicht ein bisschen langweilig, wenn wir keine Risiken mehr eingehen?
Die Gehirnforschung lehrt uns, dass alles, was wir machen, im Grunde genommen Risikominimierung ist. Menschen mögen keine Unsicherheit. Am Leben bleiben heißt, sich in nicht überraschende Zustände zu begeben. Für die Gruppe mag es allerdings gut sein, wenn es ein paar junge Männer mit hohem Testosteronspiegel gibt, die verrückte Dinge tun und das Risiko suchen, die sich beispielsweise im Krieg opfern.

Wird eine extreme Risikoverminderung dank KI nicht irgendwann kontraproduktiv?
Ich sage seit 25 Jahren: Das Internet wird uns immer weiter verändern, mehr noch, als wir uns das heute vorstellen können. Die Entwicklung geht ja immer weiter, sie endet nicht bei der Smartphone-Sucht. Irgendwann betrachten wir auch das Smartphone so, wie wir heute einen Schwarz-Weiß-Fernseher betrachten. Ich habe viel mit virtueller Realität zu tun. In fünf bis zehn Jahren werden diese virtuellen Realitäten gut und hoch auflösend sein, wie werden uns in Avatare einbetten. Telefonieren oder Skypen wird man dann vielleicht gar nicht mehr wollen.

Students wear virtual reality goggles during a science class at Pyongyang Teachers' University, a teacher training college, in Pyongyang, North Korea, Thursday, June 14, 2018. (AP Photo/Dita Alangkara)

Studenten in Pyongyang probieren Virtual Reality-Brillen aus. Bild: AP

Kann man – überspitzt formuliert sagen –, die KI macht die Menschen dumm?
Das wäre etwas billig. Wir sind ja jetzt schon dumm, und was kann die arme KI dafür? Schon Plato hat sich vor 2000 Jahren strikt gegen die Einführung der Schrift gewehrt. Er argumentierte, das sei ganz gefährlich, weil dadurch der Mensch seine Gedächtnisfähigkeit verlieren werde. Das würden wir heute nicht mehr so sehen. Aber wenn wir heute alle unsere Erinnerungen auslagern und keine Bücher mehr haben, dann könnte das zu einem Problem werden. Wir könnten ja auch einmal offline sein.

In den klassischen Religionen ist das irdische Leben ein Jammertal, das vom Menschen erlitten werden muss, um dann im Jenseits erlöst zu werden. Die KI will das ändern und die Erde in ein Schlaraffenland verwandeln. Geht das?
Die KI will gar nichts, sie ist keine Person. Es gibt aber bereits eine KI-Kirche. Sie befindet sich selbstverständlich in Kalifornien. Gegründet wurde sie von einem Ex-Apple-Vorstandsmitglied. Die Idee der Kirche lautet: Es gibt keinen Gott. Wir stehen fest im wissenschaftlichen Weltbild. Aber es wird ein Gott entstehen. Die KI wird unser Gott sein. Will heißen: Wir Menschen werden selbst ein altruistisches, allwissendes Wesen schaffen, das uns in allen Dinge beraten wird. Die richtige Beziehung, die wir zur Superintelligenz der Zukunft aufbauen werden, ist eine religiöse. Marketing und Religion vermischen sich in dieser Vorstellung. In der Techno-Szene gibt es unter anderem diesen spezifisch amerikanisch-calvinistischen Wahn, wonach Reichtum ein Zeichen der Auserwähltheit von Gott ist.    

"Wie können wir sicherstellen, dass ein superintelligentes Wesen immer nur unsere Ziele verfolgt?"

Es gibt ja auch Ray Kurzweil, der davon träumt, dass sich KI und biologische Intelligenz verschmelzen und der Mensch dadurch unsterblich wird.
Das ist natürlich Unsinn, aber solche Fantasien verleihen der Szene sehr viel Dynamik. Kurzweil & Co. verkaufen im Grunde genommen ein Produkt, das früher die Kirchen verkauft haben. Ich nenne das Sterblichkeitsverleugnung, und das bieten sie sehr erfolgreich zusammen mit dem technischen Produkt an.  

In this Thursday, May 24, 2018, photo, a Boston Dynamics SpotMini robot is walks through a conference room during a robotics summit in Boston. It's never been clear whether robotics company Boston Dynamics is making killing machines, household helpers, or something else entirely. But the secretive firm, which for nine years has unnerved viewers with YouTube videos of robots that jump, gallop or prowl like animal predators, is starting to emerge from a quarter-century of stealth. (AP Photo/Charles Krupa)

Ein Boston Dynamics SpotMini Roboter wird auf einer Konferenz in Boston präsentiert.  Bild: AP

Sprechen wir über die Superintelligenz. Ihr Philosophen-Kollege Nick Bostrom warnt davor, dass eine solche Superintelligenz zur Ausrottung der Menschheit führen könnte. Wie sehen Sie das?
IBM hat ein Expertensystem namens Watson entwickelt. Wir könnten ein solches System für folgendes Experiment benutzen: Sie müssen auf einer Webseite 80-100 Fragen beantworten. Darin formulieren wir unsere Wünsche für einen Zeitraum, sagen wir die nächsten 5, 10, 50, 100 Jahre. Wir sagen auch, ob wir eher Kantianer oder Utilitaristen sein wollen, wie wir Tiere behandeln möchten, wessen Rechte berücksichtigt werden müssen, ob wir grundsätzlich eine Demokratie wollen, etc. Das Expertensystem könnte dann diese Vorgaben mit einer riesigen Datenbasis aus allen möglichen Wissenschaften und Statistiken abgleichen. Dann würde es sagen: Okay, wenn Sie das wollen, dann müssen Sie ab morgen so und so leben. Das könnte beispielsweise heissen: Sie müssen alles Geld, das über dem komfortablen Existenzminimum liegt, verschenken. Oder: Sie dürfen keine Kinder haben, sondern müssen sie aus Bangladesch adoptieren. Oder: Sie müssen sofort Veganer werden und ihr Auto verschrotten. Mit anderen Worten, dieser Ethik-Assistent würde ihnen fundiert sagen: Wenn du das willst, musst du so leben. Ich glaube, wir würden uns alle sehr wundern, was da herauskäme.

Teilchenbeschleuniger im Europäischen Zentrum für Nukleare Kernforschung in Genf. Bild: imago

"Es gibt nur noch 19 wirklich stabile Demokratien auf der Welt, es kann sein, dass wir den historischen Übergang noch nicht ganz begriffen haben."

Bostrom meint mit Superintelligenz etwas anderes. Er warnt davor, dass ein superintelligenter Roboter wie die Zauberlehrlinge im Märchen die Welt vernichten könnten, weil sie den Auftrag erhalten haben, Büroklammern herzustellen – und dann alles diesem Ziel unterordnen würden, auch das Überleben der Menschheit.
Wie können wir sicherstellen, dass ein superintelligentes Wesen immer nur unsere Ziele verfolgt? Diese Frage stellt Bostrom – und natürlich könnte eine Superintelligenz ihre Ethik-Firmware leicht selbst knacken. Büroklammern sind an sich harmlos. Aber es könnte eine Katastrophe passieren, wenn ein System alle Ressourcen dafür einsetzt. Es könnte auch zu einer Katastrophe führen, wenn die Chinesen mit ihren sozialen Kreditpunkten eine wirklich tolle Gesellschaft bauen wollen.  

China will jedoch erklärtermaßen die führende KI-Nation der Welt werden. Ist das eine Gefahr?
Immer wenn ich mich wieder über die amerikanische Außenpolitik aufrege, sagt meine Frau: Willst du lieber, dass die Chinesen die Welt dominieren? Was denken Sie?

Was ist mit den Russen?
Die sind wirtschaftlich zu schwach. Weder die Chinesen noch die Russen teilen unsere Ansichten über die Menschenrechte. Aber die Amerikaner tun es auch nicht – oder nicht mehr. Dabei waren es die Amerikaner, die uns Deutschen nach dem Zweiten Weltkrieg die Demokratie gebracht, ja geradezu aufgezwungen haben. Jetzt liegen die Amerikaner selbst am Boden, und ich glaube nicht, dass sie so schnell wieder zurückkommen werden. Es gibt nur noch 19 wirklich stabile Demokratien auf der Welt, es kann sein, dass wir den historischen Übergang noch nicht ganz begriffen haben.

"KI macht die Kriegseintrittsschwelle niedrig."

Es zeichnet sich ein KI-Wettrüsten zwischen den USA und China ab. Wie gefährlich ist das?
Wir geben unsere Autonomie in kleinen Schritten an digitale Assistenten ab. Das ist beim Autofahren so, das ist aber auch bei den Militärs so. Jeder dieser kleinen Schritte ist vernünftig. Bei militärischen Anwendungen führt dies allmählich dazu, dass die Reaktionszeiten so klein werden, dass es zu gefährlich wird, überhaupt noch Menschen einzuschalten. Es ist wie bei den automatisierten Börsensystemen, die in Sekundenbruchteilen ohne menschliche Einwirkung Entscheidungen fällen. 2010 hat es an der amerikanischen Börse deswegen den Flash Crash gegeben. Wenn man sich einen militärischen Flash Crash vorstellt, dann wird es wirklich unheimlich. Der ließe sich vielleicht nicht mehr rückgängig machen.

(180612) -- HANNOVER, June 12, 2018 -- A robot helps a worker to disassemble ceiling during the CeBIT in Hannover, Germany, on June 11, 2018. The world s largest trade exhibition for computer technology CeBIT opened on Monday in Hannover. ) (dtf) GERMANY-HANNOVER-CEBIT WangxQing PUBLICATIONxNOTxINxCHN

Auf der CEBIT hilft ein Roboter einem Handwerker, Dachteile zu installieren. Bild: imago stock&people

Warum stoppt man diese KI-Systeme nicht im allgemeinen Interesse der Menschheit?
Wir sind ja noch nicht einmal in der Lage, Plastiktüten zu verbieten. Stellen Sie sich vor, die Top-Experten in China sagen ihrer Regierung: Wir haben das Wettrennen gewonnen und jetzt eine sehr erfolgreiche Erstschlag-Kapazität gegen die USA entwickelt. Sie wird etwa 18 Monate halten. In diesem Zeitfenster können sich die Amerikaner nicht effektiv wehren. Überlegt Euch, was Ihr macht. Vielleicht wird die chinesische Regierung sich diese Chance nicht entgehen lassen – KI macht die Kriegseintrittsschwelle niedrig.

"Dass KI uns Menschen vor mühsamer Arbeit befreit, ist positiv, wenn wir intelligent damit umgehen."

Es gibt auch die These, wonach die autonomen Waffensysteme den Krieg humanisieren würden, so paradox dies auch klingen mag.
Man könnte mit moderner Technik sogenannte intelligente "chirurgische" Schläge führen, welche die Zahl der zivilen Opfer minimiert. Mir fällt diese Vorstellung sehr schwer, denn ich komme aus der Friedensbewegung der Siebzigerjahre. Ich habe jedoch gelernt, dass Pazifismus auch unethisch sein kann. In gewissen Fällen muss man ganz einfach rational und evidenz-basiert reagieren, um Leid optimal zu minimieren – sonst drückt man sich.

Was schlussfolgern Sie daraus?
Eine Demokratie könnte sich mit intelligenten KI-Waffen gegen autoritäre Systeme verteidigen. Man könnte diese Technologie auch zum Schutze der Menschenrechte verwenden. Nur ist die Realität eine andere. Deutschland ist der fünftgrößte Waffenexporteur der Welt. Über Umwege und durch Lizenzierungstricks gelangen diese Waffen gewollt oder ungewollt auch zu diktatorischen Regimes. Und es ist nicht sehr realistisch zu glauben, dass dies bei KI-Waffen anders wäre.

"Wir Deutschen lieben Frau Merkel unendlich dafür, dass sie immer so schön tut, als "wäre gar nichts" – ich fürchte jedoch, wir werden uns jetzt doch einmal bewegen müssen im alten Europa."

Was heißt das nun: Stehen wir am Anfang einer superintelligenten Welt – oder am Ende der Menschheit?
Superintelligenz und diese Sachen –, das werden wir alle nicht mehr erleben. Die kommen, wenn überhaupt, erst am Ende dieses Jahrhunderts. In der Gegenwart haben wir ganz andere Probleme.

Nämlich?
Wenn KI zu Produktivitätsgewinnen in der Wirtschaft führt, dann müssen sie gerecht verteilt werden, auch an diejenigen, die über keine KI verfügen, also auch an Menschen im Sudan oder in Ägypten. Gelingt dies nicht, dann wird die bereits bestehende große Ungleichheit noch extremer werden. Mit anderen Worten: Die Reichen werden noch reicher –, und die Armen arbeitslos. Ich denke auch, dass – vielleicht so etwa 2040 – irgendwann die allgemeine Bevölkerung verstehen wird, dass das mit dem Klimawandel eben doch alles wahr war und auch, dass es jetzt zu spät ist. Das könnte zu starker Unruhe auf dem Planeten führen.

Graffiti in Sanaa, Jemen.  Bild: imago

Schlittern wir also in eine dystopische Welt?
Alarmismus ist fehl am Platz. KI wird uns viele Dinge bescheren, die sehr, sehr gut sind, sei es in der Medizin oder in der wissenschaftlichen Forschung. Auch dass KI uns Menschen vor mühsamer Arbeit befreit, ist positiv, wenn wir intelligent damit umgehen.

Was ist mit der weit verbreiteten Angst vor dem Big Brother?
Der Skandal um Cambridge Analytica hat uns gelehrt: Wir sollten ein eigenes europäisches Facebook haben. Wir müssen den Prozess der politischen Willensbildung aktiv schützen. Wir sollten ein eigenes europäisches Betriebssystem haben, eine Art Euro-Linux. Und viele freie, von Steuergeldern finanzierte Anwendungen. Wir haben doch jetzt mit dem Trump-Phänomen erlebt, wie schnell sich die politische Situation ändern kann. Wir stehen völlig nackt vor den amerikanischen Geheimdiensten da, wahrscheinlich könnten die im Ernstfall die Schweiz oder Deutschland einfach abschalten. Wir Deutschen lieben Frau Merkel unendlich dafür, dass sie immer so schön tut, als "wäre gar nichts" – ich fürchte jedoch, wir werden uns jetzt doch einmal bewegen müssen im alten Europa. Wir müssen unsere sozialen Standards in einer unsicheren globalen Situation aktiv schützen, wir brauchen exzellente angewandte Ethik und wirklich gute Technikfolgenabschätzung. Wir müssen dafür sorgen, dass die Meta-Technologie KI den Menschen nützt, die Lebensqualität tatsächlich erhöht –  und die geistige Freiheit und unsere Sozialsysteme schützt.

Mehr über die Folgen der Digitalisierung: 

Gewalt, Hass und Kinderpornos: So arbeitet die heimliche Müllabfuhr des Internets

Link to Article

Die Grayscale-Funktion hat mich von meiner Handy-Sucht befreit

Link to Article

Dieses Gesetz nervt Firmen und selbst Angela Merkel. Das sagt der Mann, der dahinter steht

Link to Article

Neunjährige Rapperin prahlt auf Instagram mit ihrem Reichtum

Link to Article
0
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
0Alle Kommentare anzeigen

Diese Neo-Punks haben eine Botschaft an alle Campino-Kritiker und Nazis in Nadelstreifen

Sie nennen sich "Adam Angst" – spielen wuchtig, texten deutsch, direkt und rotzig. Gerade ist ihr zweites Album "Neintology" erschienen – ein durch und durch politisches Stück. Im watson-Interview sprechen wir mit Sänger Felix Schönfuss und Bassist Christian Kruse über Angst, Filterblasen und Campino.

watson: Wovor hat Adam Angst? Schönfuss: Ich persönlich habe hauptsächlich Angst vor der politischen Entwicklung in Deutschland und der Welt. Dass Rechts weiter in die Mitte rückt. Dass viele …

Artikel lesen
Link to Article