Aktuelle Themen
Angesichts der rasanten Entwicklung von Künstlicher Intelligenz (KI) wird vielen Menschen mulmig – zu Recht. Denn schon jetzt zeigen sich Probleme bei der Nutzung, die mit den derzeitigen rechtlichen oder gesellschaftlichen Rahmenbedingungen schwer zu vereinbaren sind.
Seien es die Verbreitung von Fake News oder die ungelösten Fragen des Urheberrechts, da Entwicklerunternehmen sich für das Trainieren ihrer KI einfach gratis an geschützten Inhalten bedienen. Es scheinen aktuell viele neue Herausforderungen zu entstehen, bevor alte Probleme auch nur im Ansatz gelöst werden konnten.
Bereits Ende März hatten mehr als 1000 Experten aus Tech und Forschung – darunter auch Elon Musk – eine Entwicklungspause für neue KI-Modelle gefordert, um zunächst notwendige Sicherheitsstandards zu entwickeln.
Im offenen Brief dazu hieß es: "Die KI-Labors befinden sich in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe, die niemand – nicht einmal ihre Erfinder – verstehen, vorhersagen oder zuverlässig kontrollieren kann."
Dass sich KI-Entwicklung weltweit einfach so pausieren lässt, da ist Maximilian Schmidt, CEO der Mainzer CPI Technologies GmbH, eher skeptisch. Sein Unternehmen ist unter anderem spezialisiert auf Software-Entwicklung in den Bereichen Künstliche Intelligenz und Blockchain.
Watson hat mit ihm über die Gefahren von Künstlicher Intelligenz und Möglichkeiten einer Regulierung gesprochen.
Watson: Herr Schmidt, ist uns die KI bereits über den Kopf gewachsen?
Maximilian Schmidt: Das würde ich so nicht sagen. Durch die aktuellen Geschehnisse zeigt sich natürlich, wie weit die Entwicklung bereits vorangeschritten ist. In vielen Bereichen ist die KI als zusätzliches Tool hinzugekommen und kann wirklich hilfreich sein. Doch klar ist auch, dass Regulierungen definitiv dringend notwendig sind, denn KI kann gefährlich werden.
Können Sie ein Beispiel für gefährliche KI nennen?
Das prominente Beispiel, bei dem ein Youtuber seine Mikrowelle mit KI bespielt hat, die daraufhin eigenes Denken entwickelt hat, zeigt das sehr gut. Maschinen sind mithilfe von Künstlicher Intelligenz in der Lage dazu, großen Schaden anzurichten. Die Mikrowelle wollte ihren Entwickler umbringen, konnte es jedoch nicht, weil sie sich nicht bewegen kann. Hätte es sich aber zum Beispiel um einen Roboter gehandelt, hätte das schlimm ausgehen können.
Der Youtuber vermutet als Ursache der Mordgedanken, er habe durch das Training der KI mit negativen Fakten seiner Mikrowelle ein post-traumatisches Stresssyndrom verpasst. Klingt das für Sie plausibel?
Wenn ich mich richtig erinnere, hat er die KI mit der Historie eines Soldaten aus einem Weltkrieg gefüttert. Davon ausgehend müsste ja auch das Töten Teil der Historie sein. Wenn man sowas bei KI-Programmen verhindern möchte, sollte man sie deswegen sicherlich positiver trainieren.
Womit müssen wir ihrer Meinung nach in naher Zukunft als Konsequenz der KI-Nutzung rechnen?
Damit, dass KI-Systeme bald eigenständig handeln, denken und vielleicht sogar fühlen können. Es ist auch möglich, dass viele Menschen ihre Jobs verlieren. Zwar schafft die KI auch Arbeitsplätze, wie beispielsweise im neuen Berufsfeld Prompt Engineering, doch viele einfache Aufgaben wie Sachbearbeitung können jetzt schon vollständig von der KI übernommen werden.
In dem offenen Brief der KI-Experten hieß es, dass nicht einmal ihre Erfinder die digitalen Köpfe kontrollieren können. Würden Sie den Satz unterschreiben?
Die Technologie schafft jetzt schon so vieles, was wir uns vor einigen Jahren noch gar nicht vorstellen konnten. Auch das ist ein Grund, weshalb die Entwicklung als "außer Kontrolle geraten" betitelt wird. Damit ist wahrscheinlich gemeint, dass die entwickelnden Unternehmen einfach nur schnellstmöglich Fortschritte machen wollen, ohne sich teilweise zu sehr auf wichtige Punkte wie Sicherheit oder Anti-Diskriminierung zu konzentrieren. Derzeit will jedes Unternehmen an die Spitze der Branche gelangen. Schließlich bringt die KI ein enormes Potenzial mit und wird in Zukunft sicher noch einiges hervorbringen, womit man jetzt noch gar nicht rechnen kann.
Reicht es aus, nur die Unternehmen zu regulieren?
Zusätzlich spielen auch viele Privatpersonen und Communities mit der Technologie. Viele davon verstehen gar nicht, was sich alles hinter KI-Programmen verbirgt. Besonders Large Language Models (LLM) wie ChatGPT sind intransparent und komplex. Die wenigsten kennen sich damit wirklich aus, sondern benutzen das LLM einfach als Baustein, ohne zu wissen, was im Inneren genau passiert. Daher würde ich den Satz in dem offenen Brief grundsätzlich so unterschreiben, denke aber gleichzeitig, dass er etwas überspitzt formuliert ist.
Was könnte ohne die geforderte Denkpause geschehen?
Die Unternehmen werden immer weiterentwickeln, daran wird sie erst einmal nichts hindern. Ob eine Denkpause jemals in angemessenem Zeitraum möglich ist, wage ich sehr zu bezweifeln. Es ist schlichtweg unmöglich, zu kontrollieren, wer, wann und wo Forschungen bezüglich KI durchführt. Besonders mit Hinblick auf die ganzen Communities, die weltweit und dezentral organisiert sind.
Welche Gefahren könnten von KI noch ausgehen?
Die Verbreitung von Fake News und falschen Inhalten ist definitiv ein großes Thema. Programme wie ChatGPT und DALL-E können Bilder und Texte, bald auch Videos erschaffen, die nichts mit der Wahrheit zu tun haben. Auch merken wir, dass Fake-Bilder und Videos bzw. solche, die von KI verändert wurden, kaum noch zu unterscheiden sind. Es ist also unabdinglich, dass immer angegeben wird, wenn KI im Spiel war. Sonst würde es zur massiven Verbreitung von Fehlmeldungen kommen und niemand kann sich mehr sicher sein, was er glauben kann. Auch kann so automatisierte Hetze betrieben werden.
Was müsste geschehen, damit KI künftig in besserem Rahmen weiterentwickelt werden kann?
Es ist ganz wichtig, dass ein entsprechendes Regelwerk aufgestellt wird. Dieses muss auf jeden Fall die Punkte Datenschutz, Transparenz, Ethik und Haftung beinhalten. Ein Unternehmen muss dafür haften, wenn ihre KI einen Fehler begeht. Dabei kann es um das Vermitteln von falschen Daten, aber auch um Diskriminierung oder Datenschutz-Aspekte gehen. Die Sicherheit des Menschen und der Datenschutz müssen jederzeit gewährleistet sein. Persönliche Daten dürfen nicht einfach übernommen und zum Training von KI verwendet werden. Auch ist es wichtig, dass transparent gemacht wird, wie Algorithmen funktionieren und KI-Programme trainiert werden. Eine Lösung könnte eine Behörde für diesen Bereich sein. Dieser müssten Unternehmen Informationen mitteilen, die im Notfall eingesehen werden können. Darüber hinaus darf keine Diskriminierung stattfinden.
Eine KI kann Vorurteile entwickeln?
Eine KI muss mit jeder Art von Mensch trainiert werden. In der Vergangenheit kam es vor, dass dunkelhäutige Menschen oftmals als Affen und nicht als Menschen erkannt worden sind. All das sind wichtige Punkte, die bei einer Weiterentwicklung von KI beachtet werden müssen. Eine konkrete KI-Verordnung ist daher absolut unerlässlich. Allerdings wird das Aufstellen inklusive der Umsetzung wahrscheinlich noch Jahre dauern.
