OpenAI watermarked ChatGPT-Texte per textGrain gemäß EU AI Act
OpenAI fügt von Modellen erzeugtem Text ein unsichtbares Wasserzeichen namens textGrain hinzu. Ab dem 5. Oktober 2026 können API-Kunden das Feature für ihre Projekte aktivieren, in der EU wird es für ChatGPT- und Codex-Nutzer eingeführt.
Veröffentlicht am 5. Oktober · Zuerst erschienen auf techaiwire.com
OpenAI hat begonnen, von seinen Modellen verfassten Texten mit einem unsichtbaren Wasserzeichen zu versehen. Das System trägt den Namen textGrain. Ab dem 5. Oktober 2026 können API-Kunden überall die Funktion für ihre Projekte einschalten, und sie bleibt deaktiviert, sofern sie nicht aktiviert wird, wie Unite.AI berichtet. ChatGPT- und Codex-Nutzern in der Europäischen Union wird das Wasserzeichen in den kommenden Wochen automatisch bereitgestellt. Der Schritt beantwortet eine Vorgabe des EU AI Act, die verlangt, dass KI-generierte Inhalte maschinell erkennbar sein müssen.
Der Rollout erfolgt laut Unite.AI in drei Teilen:
Nutzer außerhalb der EU erhalten im Rahmen dieses Plans kein mit Wasserzeichen versehenes ChatGPT- oder Codex-Textmaterial. Der Zugang zu Detektoren unterliegt dem EU-Verhaltenskodex zur Transparenz KI-generierter Inhalte, so Unite.AI. Crypto Briefing berichtet, dass OpenAI diesen Kodex im Juni 2026 unterzeichnet hat.
Ein Textwasserzeichen versteckt ein Muster in der Wortwahl eines Modells. Ein Leser kann es nicht erkennen, doch ein Detektor kann einen Textabschnitt daraufhin prüfen. Laut Unite.AI baut textGrain dieses statistische Signal in die Wortauswahl des Modells ein.
Wie zuverlässig die Erkennung funktioniert, hängt von der Länge des Textes und davon ab, wie stark er verändert wurde. Dies sind die Zahlen, die Unite.AI bei einer Falsch-Positiv-Rate von 1 % ermittelt hat:
Ein Token ist ein kurzes Textstück, oft ein ganzes Wort oder ein Teil davon. Eine Falsch-Positiv-Rate von 1 % bedeutet, dass etwa einer von 100 von Menschen verfassten Textabschnitten fälschlicherweise markiert würde.
Bearbeitungen sind die Schwachstelle. „Text lässt sich leicht verändern, umformulieren oder durch ein anderes Werkzeug schicken, und jede Bearbeitung kann das Signal eines Wasserzeichens abschwächen“, schreibt Crypto Briefing. OpenAI hatte eine frühere Version aus diesem Grund zurückgehalten. Crypto Briefing berichtet, dass ein Prototyp aus dem Jahr 2024 „zu etwa 99,9 % effektiv“ war, OpenAI die Veröffentlichung jedoch wegen Bedenken hinsichtlich seiner Robustheit verzögerte.
OpenAI nennt laut Unite.AI klare Grenzen auf. Ein Wasserzeichen kann nicht belegen, dass ein Text korrekt ist, und es kann keine Urheberschaft feststellen. Ein fehlendes Wasserzeichen beweist nicht, dass ein Mensch den Text verfasst hat. Die Erkennung ist bei kurzen Abschnitten sowie bei bearbeiteten oder übersetzten Texten unzuverlässig. Sie versagt zudem bei Texten von Modellen, die der Detektor nicht abdeckt, darunter auch Modelle von Wettbewerbern.
Crypto Briefing wirft auch eine Frage der Fairness auf. Menschen, die in einer Zweitsprache schreiben, nutzen häufig KI, um ihre Texte zu verbessern, und Wasserzeichen könnten diese fälschlicherweise kennzeichnen.
Artikel 50 des EU AI Act verpflichtet Anbieter generativer KI, generierte Inhalte maschinenlesbar zu kennzeichnen. Die Regel gilt seit dem 2. August 2026, und Crypto Briefing zufolge betrifft sie alle, die EU-Nutzern Dienste anbieten. City A.M. weist auf eine Ausnahme hin: KI, die lediglich bei der Bearbeitung unterstützt, ohne die ursprüngliche Bedeutung wesentlich zu verändern, muss ihre Ausgaben nicht kennzeichnen.
OpenAI ist nicht das erste Unternehmen, das Texte mit Wasserzeichen versieht. Diese Berichte beschreiben das Umfeld:
City A.M. zufolge überstehen Anthropics Kennzeichnungen das Kopieren und Einfügen, und von Claude bearbeitete, von Menschen verfasste Texte können diese ebenfalls tragen. Wasserzeichen haben bereits zuvor kritische Aufmerksamkeit erhalten: Wie eine Forschungsarbeit ergab, über die im letzten Monat berichtet wurde, enthielt das Bild-Wasserzeichen SynthID ein 64-Bit-ID-Feld.
Wenn Sie auf der OpenAI-API aufbauen, entscheiden Sie, ob Sie textGrain einschalten. Die Funktion ist standardmäßig deaktiviert. Wenn Ihr Produkt EU-Nutzer bedient, fragen Sie Ihr Rechtsteam, ob Artikel 50 Sie dazu verpflichtet, KI-Ausgaben selbst zu kennzeichnen. Die API-Einstellung bietet Ihnen eine Möglichkeit, diese Ausgaben zu markieren.
Behandeln Sie den Detektor nicht wie einen Lügendetektor. Kurze oder bearbeitete Texte schlüpfen daran vorbei, und ein fehlendes Wasserzeichen beweist nichts. Jedes Schul-, Einstellungs- oder Moderationswerkzeug, das es als Nachweis menschlicher Autorenschaft liest, wird Fehler machen.
Wenn Ihr Team in der EU ChatGPT oder Codex nutzt, rechnen Sie damit, dass daraus kopierte Texte die Kennzeichnung tragen. Starke Bearbeitung schwächt sie ab, doch leichte Änderungen möglicherweise nicht.
Beobachten Sie, wer Zugang zu den Detektoren erhält. Derzeit können nur zugelassene Forscher Texte prüfen. Sollte OpenAI den Detektorzugang weiter öffnen, könnten Wasserzeichen-Prüfungen zunehmend in Publishing- und Bildungstools auftauchen.
Dieser Artikel erschien zuerst auf Tech AI Wire.
Deutsch · 日本語 · Français · Español · Português
Mit Vorlagen lassen sich häufig gestellte Fragen schnell beantworten oder Ausschnitte zur Wiederverwendung speichern.
Sind Sie sicher, dass Sie diesen Kommentar verbergen möchten? Er wird in Ihrem Beitrag ausgeblendet, bleibt aber über den Permalink des Kommentars sichtbar.
Für weitere Schritte können Sie in Betracht ziehen, diese Person zu blockieren und/oder einen Missbrauchsbericht einzureichen.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Posted on Oct 5 • Originally published at techaiwire.com
OpenAI has started adding an invisible watermark to text its models write. The system is called textGrain. From October 5, 2026, API customers anywhere can switch it on for their projects, and it stays off unless they do, Unite.AI reports. ChatGPT and Codex users in the European Union will get the watermark automatically in the coming weeks. The move answers an EU AI Act rule that makes AI-generated content identifiable by machines.
The rollout comes in three parts, according to Unite.AI:
Users outside the EU will not get watermarked ChatGPT or Codex text under this plan. Detector access runs under the EU's Code of Practice on transparency for AI-generated content, Unite.AI says. Crypto Briefing reports that OpenAI signed that code in June 2026.
A text watermark hides a pattern in which words a model chooses. A reader cannot see it, but a detector can test a passage for it. Unite.AI says textGrain builds this statistical signal into the model's word selection.
How well detection works depends on the length of the text and how much it was changed. These are the figures Unite.AI reports, measured at a 1% false-positive rate:
A token is a short chunk of text, often a whole word or part of one. A 1% false-positive rate means about one in 100 human-written passages would be wrongly flagged.
Edits are the weak point. "Text is easy to tweak, paraphrase or run through another tool, and each edit can weaken a watermark's signal," Crypto Briefing writes. OpenAI held back an earlier version for this reason. Crypto Briefing reports that a 2024 prototype was "about 99.9% effective," but OpenAI delayed its release over concerns about how robust it was.
OpenAI lists clear limits, according to Unite.AI. A watermark cannot show that text is accurate, and it cannot establish who owns it. A missing watermark does not prove a human wrote the text. Detection is unreliable on short passages and on edited or translated text. It also fails on text from models the detector does not cover, including competitors' models.
Crypto Briefing raises a fairness concern too. People who write in a second language often use AI to polish their work, and watermarks could flag them.
Article 50 of the EU AI Act requires providers of generative AI to mark generated content in a machine-readable way. It has applied since August 2, 2026, and Crypto Briefing says it covers anyone serving EU users. City A.M. notes an exception: AI that only assists with editing, without substantially changing the original meaning, does not have to mark its output.
OpenAI is not the first to watermark text. These reports describe the field:
City A.M. says Anthropic's marks survive copying and pasting, and that human-written text edited by Claude may carry them. Watermarks have drawn scrutiny before: SynthID's image watermark turned out to carry a 64-bit ID field, according to a research paper reported last month.
If you build on OpenAI's API, decide whether to switch textGrain on. It is off by default. If your product serves EU users, ask your legal team whether Article 50 makes you responsible for marking AI output yourself. The API setting gives you one way to mark that output.
Do not treat the detector as a lie detector. Short or edited text slips through, and a missing watermark proves nothing. Any school, hiring or moderation tool that reads it as proof of human authorship will make mistakes.
If your team uses ChatGPT or Codex in the EU, expect text copied from them to carry the mark. Heavy editing weakens it, but light edits may not.
Watch who gets detector access. For now only approved researchers can test text. If OpenAI opens the detector wider, watermark checks could start appearing in publishing and education tools.
This article was first published on Tech AI Wire.
Deutsch · 日本語 · Français · Español · Português