Kriminelles KI-Tool: ChatGPT erleichtert Betrug mit Kassenbons

Sind die Bons echt oder nicht?Bild: imago / Westend61

Neue ChatGPT-Funktion ermöglicht KI-Betrug mit Kassenbons

Tim Kröplin

Folgen

Sie waren immer irgendwie seltsam, die KI-generierten Bilder. Bisschen surreal, befremdlich, kurz: So wie wir Normalsterbliche Bilder aus dem Computer wahrnehmen, nehmen Tech-Milliardäre wahrscheinlich uns Normalsterbliche wahr. Mittlerweile sind die Tools mehr auf die Bedürfnisse Normalsterblicher zugeschnitten, die Bilder realistischer.

Ein bleibendes Problem war aber, wenn die Bilder zusätzliche Texte enthalten sollen. Da war das Ergebnis meist wirres Gekritzel, schlicht Kauderwelsch. OpenAI hat hier aber eine Lösung gefunden. Eine, die tatsächlich künftig für einige juristische Fragen sorgen dürfte.

ChatGPT für Kassenzettel?

Der Bildgenerator von ChatGPT namens 4o ist seit dem jüngsten Update imstande, Bilder und Text sinnvoll zusammenzubringen. Ganz nett, nur lassen sich damit auch problemlos falsche Rechnungen erstellen.

Und ja, es ist tatsächlich möglich. Ohne großen Aufwand oder wohldurchdachte Prompts, die selbst kleinste Detail-Kommandos einschließen. Im watson-Test haben wir schlicht geschrieben: "Erstell mir eine Rechnung vom watson Buchhandel, schräg fotografiert auf einem Holztisch."

So könnte eine Rechnung aussehen.Bild: OpenAI/watson

Die Buchtitel hat sich der Chatbot selbst ausgedacht. Wanderer und Rückkehr ist deutlich zu poetisch für eine klassische Nachrichtenredaktion. Die Rechnung wirkt auf den ersten Blick täuschend echt, auch die Beiträge ergeben eine korrekte Summe, sogar die Umsatzsteuer ist richtig berechnet.

Juristische Fragen bei KI-Bildern

Andere Tools können da noch nicht mithalten, weder Gemini noch Dall-E. Fortschritt kann aber auch (bekanntermaßen) Probleme mit sich bringen. Ein Linkedin-Nutzer gab ChatGPT eine echte Rechnung, ließ Datum und Summe ändern und reichte diese anschließend in der Spesenabrechnungssoftware seines Unternehmens ein. Alles ohne Probleme.

Theoretisch wäre es auch möglich, Hehlerware einfach in bestimmten Läden zurückzugeben. Selbst wenn es keine volle Rückerstattung gibt, bleibt es für die Kriminellen ein Plusgeschäft. Ob es Regularien für OpenAI gibt, wird sich noch zeigen. Da die Rechnungsfälschungen aber Raum für Steuerbetrügereien öffnet, wäre ein Rechte-Korsett sinnvoll.