Ein bisschen Schmeicheln, ein Hauch Gruppendruck – und schon befolgt der Chatbot Befehle, die er eigentlich blockieren müsste. So leicht lässt sich KI manipulieren.
Als Dave Bowman in Stanley Kubricks "2001: A Space Odyssey" verzweifelt im All schwebend darum bittet, die verriegelte Tür zu öffnen, antwortet der Bordcomputer HAL 9000 mit sanfter, aber unerbittlicher Stimme: "Es tut mir leid, Dave. Ich fürchte, das kann ich nicht tun."