OpenAI implementará marca de agua invisible en texto de ChatGPT en Europa

OpenAI ha anunciado la implementación de una marca de agua invisible en el texto generado por sus modelos ChatGPT y Codex en la Unión Europea. Esta medida responde a las exigencias de transparencia de la Ley de Inteligencia Artificial del bloque, buscando facilitar la identificación del contenido creado por IA.

El sistema, denominado textGrain, modifica sutilmente la selección de palabras del modelo para crear un patrón indetectable para el ojo humano pero identificable por un detector especializado. Esta característica es crucial, ya que el patrón se mantiene incluso al copiar y pegar el texto, y no permite identificar al usuario.

La implementación inicial estará disponible para usuarios elegibles en la UE en las próximas semanas, y para desarrolladores que utilizan la API de OpenAI a partir de este lunes, aunque desactivada por defecto. La compañía aclaró que la marca de agua no será una función predeterminada a nivel global en su lanzamiento.

Si bien la tecnología se basa en la colaboración con investigadores de las universidades de Pensilvania y Yale, OpenAI reconoce limitaciones. Las pruebas internas sugieren que la edición del texto, especialmente el reemplazo de palabras por sinónimos, puede reducir significativamente la capacidad de detección. Textos breves, respuestas matemáticas y contenidos traducidos también presentan mayores desafíos para la identificación.

Este movimiento de OpenAI sigue los pasos de Anthropic, que anunció una medida similar para su modelo Claude. Ambas empresas, junto con Google, Meta y Microsoft, se han comprometido a seguir el código de buenas prácticas de la UE sobre contenido generado por IA. La medida busca fomentar la transparencia y la confianza en el uso de estas tecnologías, aunque la capacidad de eludir la marca de agua mediante edición plantea interrogantes sobre su efectividad a largo plazo.