OpenAI ha anunciado que comenzará a marcar de forma invisible los textos generados por ChatGPT en la Unión Europea. La medida responde a las exigencias de la Ley de IA del bloque comunitario, que obliga a que los contenidos producidos por inteligencia artificial puedan identificarse mediante sistemas automáticos.
El anuncio llega en un momento en el que la normativa europea empieza a exigir mecanismos concretos de trazabilidad para los contenidos generados por IA. La compañía liderada por Sam Altman lo comunicó el 5 de octubre, detallando cómo funciona la nueva tecnología y, de forma inusual, reconociendo abiertamente sus limitaciones.
Cómo funciona la marca invisible
La tecnología se llama textGrain. A diferencia de otros sistemas de marcado, no inserta palabras, símbolos ni caracteres adicionales en el texto. En su lugar, modifica ligeramente la elección de palabras del modelo siguiendo un patrón estadístico imperceptible para el ojo humano.
Ese patrón funciona como una firma basada en el ritmo de la escritura. Solo puede reconocerse mediante un detector especializado, que no está disponible para el público general.
Dónde se aplicará y cuándo
El despliegue de textGrain no será uniforme ni inmediato. Estos son los detalles principales según OpenAI:
- ChatGPT y Codex en la Unión Europea: la marca se irá incorporando en las próximas semanas a los textos que cumplan ciertos requisitos técnicos. Por ahora no está activa para todos los usuarios.
- API para desarrolladores, a nivel global: desde el 5 de octubre puede activarse de manera voluntaria en algunos modelos, aunque viene desactivada por defecto.
- Acceso al detector restringido: inicialmente solo podrán usarlo investigadores y organizaciones que OpenAI apruebe de forma específica. La empresa ha abierto un formulario de solicitud para quienes quieran acceder.
- Imágenes y audio sin cambios: las herramientas públicas que ya existían para verificar si un archivo visual o sonoro proviene de OpenAI seguirán funcionando igual que antes.
Las limitaciones que la propia OpenAI admite
Uno de los aspectos más destacados del anuncio es la franqueza con la que OpenAI expone los puntos débiles de su sistema. Con un margen de error del 1% en falsos positivos, el detector logró identificar la marca en aproximadamente el 80% de los fragmentos cortos, equivalentes a unas 200 unidades de texto, y en el 95% de los fragmentos más largos, de alrededor de 400 unidades.
La eficacia desciende notablemente en textos técnicos con poco margen de variación léxica, como los contenidos matemáticos, donde el modelo tiene menos libertad para elegir entre sinónimos.
La señal se pierde si se reescribe el texto
El dato más revelador tiene que ver con la manipulación posterior del contenido. En un texto de 400 unidades, sustituir el 10% de las palabras por sinónimos redujo la tasa de detección de un 92% aproximado a un 66%. Si la proporción de cambios sube al 25%, la detección cae hasta apenas un 17%.
En la práctica, esto significa que una reescritura relativamente sencilla puede eliminar casi por completo la capacidad de rastrear el origen del texto.
OpenAI sostiene, además, que la marca no afecta a la calidad de las respuestas. Según sus pruebas internas con su modelo más reciente, los resultados con y sin la marca invisible resultan prácticamente idénticos. La compañía también ha expresado su intención de publicar esta tecnología en código abierto en el futuro.
Qué significa esto para los usuarios
La llegada de esta tecnología plantea varias implicaciones prácticas que conviene tener en cuenta:
- No es una prueba definitiva. OpenAI aclara que la marca solo indica que el texto probablemente proviene de sus modelos, pero no identifica quién lo generó ni con qué cuenta. Tampoco un texto sin marca demuestra que haya sido escrito por una persona.
- Efecto en el trabajo diario. Quienes utilicen ChatGPT en la Unión Europea para redactar contenido llevarán la señal invisible incluso si copian el texto en otra plataforma. Sin embargo, una reescritura sustancial puede eliminar esa marca.
- Precaución para docentes y empresas. La propia OpenAI advierte que no conviene usar este tipo de detectores como prueba única, dado que sus limitaciones son significativas, especialmente ante textos editados.
Preguntas frecuentes
¿Qué es textGrain?
Es la tecnología que usa OpenAI para marcar de forma invisible los textos generados por ChatGPT, modificando sutilmente el patrón de elección de palabras sin añadir caracteres visibles.
¿Esta marca se puede ver en el texto?
No. El texto se lee exactamente igual que cualquier otro. La marca solo puede detectarse con un software especializado que, por ahora, no es de acceso público.
¿Por qué OpenAI implementa esto ahora?
Para cumplir con la Ley de IA de la Unión Europea, que exige que los contenidos generados por inteligencia artificial puedan identificarse mediante herramientas automáticas.
¿Funciona si reescribo el texto generado por ChatGPT?
La eficacia disminuye considerablemente. Según los datos de OpenAI, cambiar un 25% de las palabras por sinónimos reduce la detección hasta apenas un 17%.
¿Quién puede usar el detector de la marca invisible?
De momento, solo investigadores y organizaciones aprobadas específicamente por OpenAI, a través de un formulario de solicitud habilitado por la compañía.
¿Esta medida afecta a las imágenes o audios generados por OpenAI?
No. Las herramientas públicas existentes para verificar el origen de imágenes y audios de OpenAI continúan funcionando sin cambios.
Samuel Gil es especialista en infraestructura tecnológica, administración de servidores y desarrollo de servicios digitales. Con una sólida trayectoria en entornos web de alta exigencia, optimización de servidores y gestión de arquitecturas de red, Samuel dedica su labor en faq-box.com a desglosar cuestiones técnicas complejas para convertirlas en guías prácticas, transparentes y de alto valor técnico.
Su enfoque editorial prioriza el rigor, la seguridad en los sistemas y la resolución eficiente de problemas técnicos cotidianos y avanzados. A través de sus análisis, busca ofrecer respuestas directas y contrastadas para profesionales y entusiastas del sector tecnológico.
Cuenta con una sólida formación en el área tecnológica, destacando su especialización a través del Máster en Inteligencia Artificial Aplicada a la Gestión Empresarial y el MBA in Digital Transformation & Artificial Intelligence de ISEEN.EU, lo que aporta un rigor técnico avanzado a cada análisis de desarrollo y arquitectura digital.
