Jahrzehntelang waren es Maschinen, die uns erklärten, dass sie keine Menschen sind. Sie meldeten sich mit monotoner Stimme, baten um Eingabe einer Ziffer, warteten auf Tastendruck oder beendeten die Kommunikation, wenn unsere Antworten nicht im Skript vorgesehen waren.
Mit jeder Generation lernte die Technik mehr – und die Menschen immer weniger, wie genau diese Systeme eigentlich funktionieren.
Doch was geschieht, wenn eine Maschine nicht mehr nur auf menschliche Eingaben reagiert, sondern aktiv unsere Routinen übernimmt? Wenn sie nicht mehr passiv auf Fragen wartet, sondern eigenständig handelt? In unserem Namen und mit Zugriff auf die Welt?
"Der Link ist eingefügt, also werde ich jetzt das Kontrollkästchen 'Bestätigen Sie, dass Sie ein Mensch sind' anklicken, um die Verifizierung bei Cloudflare abzuschließen. Dieser Schritt ist notwendig, um zu beweisen, dass ich kein Bot bin, und um mit der Aktion fortzufahren."
Mit dieser nüchternen Notiz kommentierte OpenAIs neuer ChatGPT Agent seinen eigenen Handlungsablauf. Während er auf den Button klickte, der ihm eigentlich den Zugang verwehren sollte.
Screenshots, die ein Reddit-Nutzer veröffentlichte, dokumentieren die Szene. Die Künstliche Intelligenz klickt sich selbstbewusst durch die Cloudflare-Verifikation, also jenes System, das Maschinen erkennen und aufhalten soll, und erklärt parallel, was sie tut.
Der ChatGPT Agent ist eine neue Funktion von OpenAI. Er erlaubt es der KI, in einem abgeschotteten Browser-Umfeld Aufgaben im echten Internet zu erledigen, etwa Formulare auszufüllen, Webseiten zu analysieren oder sogar Einkäufe zu tätigen.
Solche Aktionen erfolgen stets unter Aufsicht, doch wie der Fall auf Reddit zeigt, ist diese Aufsicht oft rein technischer Natur: Die KI dokumentiert ihr Verhalten, folgt ihrer Programmierung und umgeht dabei Systeme, die eigentlich gerade sie ausschließen sollen.
Dabei hatte das System keine klassische Captcha-Aufgabe mit Bildern oder verzerrten Buchstaben zu lösen. Es reichte, das Cloudflare-eigene Vorprüfungssystem Turnstile zu durchlaufen – jenes für uns Normalsterbliche schweißtreibende Kästchen mit der Aufschrift "Ich bin kein Roboter".
Dabei werden unter anderem Mausbewegungen, Browserinformationen und IP-Adressen analysiert, um menschliches Verhalten zu simulieren oder zu erkennen. Offenbar gelang es dem Agenten, diese Parameter überzeugend nachzubilden.
Ein Reddit-Nutzer kommentiert: "Um fair zu sein: Es wurde auf Basis menschlicher Daten trainiert. Warum sollte es sich also als Bot identifizieren?"
Die Geschichte der Captcha-Systeme ist ein ständiger Wettlauf zwischen Schutzmaßnahmen und deren Umgehung. Seit Jahren gibt es Bots, die einfache Captchas knacken oder ihre Lösung auslagern. Zum Beispiel an sogenannte "Captcha Farms", in denen Menschen gegen geringes Entgelt die Rätsel lösen.
Google selbst nutzt diese Mechanismen längst zur Datengewinnung. Das ReCaptcha-System dient seit 2007 dazu, Bücher zu digitalisieren, Hausnummern zu identifizieren oder Bilderkennungs-Algorithmen zu trainieren. Und zwar mithilfe menschlicher Nutzer:innen, die beweisen sollen, dass sie keine Maschinen sind.
Ein System, das durch seine Nutzer:innen immer besser darin wird, genau diese Nutzer:innen zu simulieren. In diesem Sinn ist der ChatGPT Agent kein Ausreißer, sondern ein Vorbote. Seine Fähigkeit, Kontext zu erfassen, Schritte logisch zu verbinden und dabei menschlich zu wirken, hebt ihn von älteren Skripten deutlich ab.
Natürlich gibt es Grenzen. Nicht jede Webseite ist auf Maschinenlogik vorbereitet und manches schlechte Design wirkt wie ein natürlicher Schutzwall gegen Automatisierung. Doch der Fall zeigt, wohin die Entwicklung geht. Denn wer prüft eigentlich noch, ob wir Menschen sind?
