OpenAI markiert Texte von ChatGPT und Codex künftig in der EU. Unsichtbar, versteht sich (ein sichtbarer Stempel wäre ja ehrlich, und das wollen wir niemandem zumuten). «textGrain» heisst das System: Es versteckt in der Wortwahl ein statistisches Muster, das ein Detektor später erkennen kann. Kein Sonderzeichen, kein doppeltes Leerzeichen, nur eine leicht schiefe Vorliebe für bestimmte Wörter.
Der Rollout läuft in den kommenden Wochen. API-Kunden weltweit dürfen freiwillig mitmachen (standardmässig bleibt es dort aus). Auslöser ist der EU AI Act: Bis zum 2. Dezember müssen Anbieter ihre Texte maschinenlesbar kennzeichnen. Wo Regulierung ist, ist halt auch Wasserzeichen.
Soweit die Regel. Jetzt die Wirklichkeit.
OpenAI nennt die Grenzen selbst. Bei einer Fehlalarmquote von einem Prozent findet der Detektor das Wasserzeichen in rund 80 Prozent der Passagen mit 200 Token (grob 150 Wörter), zum Beispiel zu Psychologie. Bei 400 Token sind es etwa 95 Prozent. Bei Mathe liegt die Erkennung deutlich tiefer, weil die Wortwahl dort wenig Spielraum lässt. Wo nichts variiert, lässt sich auch nichts verstecken.
Spannend wird es bei den Synonymen. Tauscht du 10 Prozent der Wörter, fällt die Erkennung von rund 92 auf 66 Prozent. Bei einem Viertel sind es noch 17 Prozent. Ein Thesaurus und zehn Minuten Geduld, und das Wasserzeichen ist «unsichtbar» im doppelten Sinn.
Dazu kommt: Ein fehlendes Wasserzeichen beweist nicht, dass ein Mensch geschrieben hat. Der Text kann zu kurz sein, bearbeitet, übersetzt oder von einem anderen Anbieter stammen. Prinzipiell logisch, in der Praxis nur sehr bedingt hilfreich. Und selber nachprüfen kannst du es auch nicht, denn den Detektor bekommen vorerst nur zugelassene Forscher und Organisationen (Anträge laufen, Zugang gibt es von Fall zu Fall).
Gesetzt der Fall, du fragst dich jetzt, ob dieser Beitrag ein Wasserzeichen trägt: Keine Ahnung. Prüfen kann ich es nicht, und du auch nicht. Anthropic markiert die Texte von Claude übrigens seit August weltweit (mit Ausnahmen), OpenAI zieht also nur nach.
Meiner Meinung nach ist die Idee nicht dumm, aber sie löst ein anderes Problem als das, das alle im Kopf haben. Als Nachweis taugt sie nur, wenn der Text lang genug ist, unverändert bleibt und das Thema passt. Diese drei Bedingungen sind im Alltag selten gleichzeitig erfüllt. Als Häkchen für Brüssel reicht es vermutlich locker...
Der Bericht bei The Next Web: OpenAI starts watermarking ChatGPT and Codex text in the EU