OpenAI afirma que comenzará a añadir una marca de agua invisible al texto apto producido por ChatGPT y Codex para usuarios de la Unión Europea en las próximas semanas. La empresa describe la función como una forma de ayudar a determinar si un texto probablemente se originó en uno de sus sistemas de IA.
La tecnología, denominada textGrain, no inserta etiquetas visibles, metadatos ni caracteres especiales en el contenido generado. En su lugar, influye sutilmente en la selección de palabras para crear una firma estadística que un detector autorizado puede intentar identificar posteriormente. Según OpenAI, los lectores y usuarios que copien el resultado no deberían apreciar diferencias en el texto.
Por ahora, el despliegue está limitado geográficamente. Los clientes de la API de todo el mundo podrán elegir la incorporación de marcas de agua para los modelos compatibles, pero la configuración estará desactivada de forma predeterminada. OpenAI también está aceptando solicitudes de acceso a su herramienta de detección, inicialmente limitando la disponibilidad a investigadores aprobados y organizaciones especializadas.
La detección puede debilitarse mediante ediciones
OpenAI reconoció que la marca de agua no es un método definitivo para establecer la autoría. En pruebas de la empresa con pasajes de 400 tokens, sustituir el 10 % de las palabras por sinónimos redujo las tasas de detección de aproximadamente el 92 % al 66 %. Cuando se modificó el 25 % de las palabras, la detección cayó a cerca del 17 %.
El rendimiento también varió según la extensión y el tipo de contenido. Con un umbral de falsos positivos del 1 %, OpenAI informó de detección en cerca del 80 % de las respuestas sobre psicología de 200 tokens y en aproximadamente el 95 % de las respuestas de 400 tokens. El texto matemático resultó más difícil de marcar con marca de agua porque hay menos opciones de palabras intercambiables sin alterar el significado.
- La ausencia de una marca de agua no demuestra que el contenido haya sido escrito por un humano.
- Los pasajes cortos, la traducción y la edición posterior a la generación pueden impedir una detección fiable.
- Una marca de agua detectada no identifica al usuario, la cuenta, la instrucción ni la conversación asociados al resultado.
- La señal no puede determinar qué parte de un documento final fue escrita o revisada por una persona.
OpenAI afirmó que habilitar textGrain no afectó de forma significativa a las evaluaciones comparativas de calidad de su modelo GPT-6 Astra. La iniciativa surge mientras legisladores, educadores, editores y equipos de seguridad continúan evaluando métodos para identificar contenido sintético, evitando al mismo tiempo depender en exceso de herramientas que pueden eludirse mediante ediciones rutinarias.