OpenAI erklärt, dass das Unternehmen in den kommenden Wochen damit beginnen wird, berechtigten Texten, die von ChatGPT und Codex für Nutzer in der Europäischen Union erstellt werden, ein unsichtbares Wasserzeichen hinzuzufügen. Das Unternehmen beschreibt die Funktion als Möglichkeit, festzustellen, ob Text wahrscheinlich aus einem seiner KI-Systeme stammt.
Die Technologie namens textGrain fügt generierten Inhalten keine sichtbaren Kennzeichnungen, Metadaten oder Sonderzeichen hinzu. Stattdessen beeinflusst sie subtil die Wortwahl, um eine statistische Signatur zu erzeugen, die ein autorisiertes Erkennungstool später identifizieren kann. Lesern und Nutzern, die die Ausgabe kopieren, sollte laut OpenAI kein Unterschied im Text auffallen.
Die Einführung ist vorerst geografisch begrenzt. API-Kunden weltweit können die Wasserzeichenfunktion für unterstützte Modelle auswählen, sie wird jedoch standardmäßig deaktiviert sein. OpenAI nimmt außerdem Anträge für den Zugang zu seinem Erkennungstool entgegen und beschränkt die Verfügbarkeit zunächst auf zugelassene Forschende und spezialisierte Organisationen.
Erkennung kann durch Bearbeitungen geschwächt werden
OpenAI räumte ein, dass das Wasserzeichen keine endgültige Methode zur Feststellung der Urheberschaft ist. Bei Unternehmenstests mit Passagen von 400 Token verringerte das Ersetzen von 10 % der Wörter durch Synonyme die Erkennungsraten von etwa 92 % auf 66 %. Wurden 25 % der Wörter geändert, sank die Erkennung auf rund 17 %.
Die Leistung variierte auch je nach Länge und Art der Inhalte. Bei einem Schwellenwert für falsch-positive Ergebnisse von 1 % meldete OpenAI eine Erkennung bei etwa 80 % der psychologischen Antworten mit 200 Token und bei ungefähr 95 % der Antworten mit 400 Token. Mathematische Texte waren schwieriger mit Wasserzeichen zu versehen, da es weniger austauschbare Wortoptionen gibt, ohne die Bedeutung zu verändern.
- Ein fehlendes Wasserzeichen belegt nicht, dass Inhalte von einem Menschen geschrieben wurden.
- Kurze Passagen, Übersetzungen und nachträgliche Bearbeitungen können eine zuverlässige Erkennung verhindern.
- Ein erkanntes Wasserzeichen identifiziert weder den Nutzer noch das Konto, den Prompt oder die mit der Ausgabe verknüpfte Unterhaltung.
- Das Signal kann nicht bestimmen, wie viel eines fertigen Dokuments von einer Person verfasst oder überarbeitet wurde.
Laut OpenAI hatte die Aktivierung von textGrain keinen nennenswerten Einfluss auf die Qualitäts-Benchmarks seines Modells GPT-6 Astra. Die Initiative kommt zu einer Zeit, in der politische Entscheidungsträger, Bildungseinrichtungen, Verlage und Sicherheitsteams weiterhin Methoden zur Identifizierung synthetischer Inhalte bewerten und zugleich eine übermäßige Abhängigkeit von Werkzeugen vermeiden wollen, die durch routinemäßige Bearbeitungen umgangen werden können.