OpenAI indique qu’elle commencera, dans les prochaines semaines, à ajouter un filigrane invisible aux textes éligibles produits par ChatGPT et Codex pour les utilisateurs de l’Union européenne. L’entreprise présente cette fonctionnalité comme un moyen d’aider à déterminer si un texte provient probablement de l’un de ses systèmes d’IA.
La technologie, appelée textGrain, n’insère ni étiquettes visibles, ni métadonnées, ni caractères spéciaux dans le contenu généré. Elle influence plutôt subtilement le choix des mots afin de créer une signature statistique qu’un détecteur autorisé pourra tenter d’identifier ultérieurement. Selon OpenAI, les lecteurs et les utilisateurs qui copient le résultat ne devraient constater aucune différence dans le texte.
Le déploiement est pour l’instant limité géographiquement. Les clients de l’API du monde entier pourront choisir d’activer le filigrane pour les modèles pris en charge, mais ce paramètre sera désactivé par défaut. OpenAI accepte également les demandes d’accès à son outil de détection, dont la disponibilité sera initialement limitée aux chercheurs approuvés et aux organisations spécialisées.
La détection peut être affaiblie par les modifications
OpenAI a reconnu que le filigrane ne constitue pas une méthode définitive pour établir la paternité d’un texte. Lors de tests de l’entreprise sur des passages de 400 jetons, le remplacement de 10 % des mots par des synonymes a fait passer les taux de détection d’environ 92 % à 66 %. Lorsque 25 % des mots étaient modifiés, la détection tombait à environ 17 %.
Les performances variaient également selon la longueur et le type de contenu. Avec un seuil de faux positifs de 1 %, OpenAI a signalé une détection dans environ 80 % des réponses de 200 jetons sur la psychologie et dans approximativement 95 % des réponses de 400 jetons. Les textes mathématiques étaient plus difficiles à filigraner, car ils offrent moins de choix de mots interchangeables sans modifier le sens.
- L’absence de filigrane ne démontre pas qu’un contenu a été rédigé par un humain.
- Les courts passages, la traduction et les modifications apportées après la génération peuvent empêcher une détection fiable.
- Un filigrane détecté n’identifie ni l’utilisateur, ni le compte, ni l’invite, ni la conversation associés au résultat.
- Le signal ne peut pas déterminer quelle part d’un document final a été rédigée ou révisée par une personne.
OpenAI a indiqué que l’activation de textGrain n’avait pas eu d’incidence significative sur les évaluations de qualité de son modèle GPT-6 Astra. Cette initiative intervient alors que les décideurs publics, les enseignants, les éditeurs et les équipes de sécurité continuent d’évaluer les méthodes d’identification des contenus synthétiques, tout en évitant de trop s’appuyer sur des outils pouvant être contournés par des modifications courantes.