Ojo. ChatGPT pondrá una marca de agua invisible a los textos generados por IA: así funcionará

OpenAI prepara un cambio que podría modificar la manera en que se identifica el contenido generado con inteligencia artificial. La compañía comenzará a incorporar una marca de agua invisible en los textos producidos por ChatGPT, aunque los usuarios no podrán verla a simple vista.

La medida forma parte de los esfuerzos de OpenAI para establecer mecanismos de procedencia que permitan identificar contenido generado por IA y responde, en particular, a los nuevos requisitos de transparencia de la Unión Europea.

La marca de agua no aparecerá a simple vista

A diferencia de una etiqueta o leyenda que indique “generado por IA”, la señal no será visible para los usuarios. OpenAI la describe como una marca de agua estadística que quedará incorporada al texto durante el proceso de generación.

Inicialmente, el sistema será implementado para usuarios de ChatGPT en la Unión Europea. La compañía señaló que el despliegue comenzará durante las próximas semanas.

Esto no significa que cualquier persona podrá tomar un texto y comprobar inmediatamente si fue escrito por ChatGPT. OpenAI ha señalado que existen limitaciones importantes y que la señal puede perder efectividad cuando el contenido es demasiado corto o ha sido editado.

También llegará a Codex

La tecnología no estará limitada a ChatGPT. OpenAI también contempla su utilización en Codex, su herramienta orientada a tareas de programación.

Para quienes utilizan la API de OpenAI, la compañía también plantea ofrecer la posibilidad de activar señales de procedencia en determinados modelos.

¿Cómo funcionará la “huella invisible”?

Aquí está la parte más interesante. La marca de agua no consiste en esconder caracteres, espacios o símbolos dentro del texto.

Durante la generación, el modelo toma constantemente decisiones sobre qué palabra o fragmento utilizar entre distintas posibilidades. El sistema puede modificar ligeramente esas elecciones siguiendo un patrón estadístico determinado.

Una elección individual no revela nada. Sin embargo, al acumularse cientos de decisiones a lo largo de un texto, queda un patrón que puede ser identificado posteriormente mediante herramientas diseñadas para detectar esa señal.

Por eso OpenAI advierte que no será una prueba absoluta. Reemplazar palabras, editar considerablemente un texto, traducirlo o trabajar con textos muy cortos puede dificultar la detección.

La intención es que, en lugar de intentar adivinar si un texto parece escrito por una IA, pueda buscarse una señal incorporada desde el momento en que el contenido fue generado.

Por Gabriela Herrera