Los textos generados por Claude en modelos lanzados en la Unión Europea a partir del pasado 2 de agosto llevarán una marca de agua oculta que permitirá identificarlos. Anthropic ha anunciado esta medida para cumplir con el Código de Transparencia de la UE, que entró en vigor el 2 de agosto y que obliga a las compañías a identificar todos los contenidos que generen.

OpenAI, creador de ChatGPT, anunció la semana pasada que también iba a incluir marcas de agua en sus textos para cumplir con la nueva normativa.

La marca viaja con el texto

La medida tiene el potencial de cambiar la forma en que millones de trabajadores usan la IA para escribir. "La marca de agua es parte del texto, por tanto viajará con el texto cuando se copie y pegue y puede persistir incluso con cierta edición", explica la compañía. La marca es "imperceptible" porque está en el propio texto, aunque no afectará ni se verá en el contenido generado.

La marca estará presente incluso si el texto generado es una traducción o una edición de un fragmento escrito por un humano. "La gente a menudo usa Claude para editar, traducir, resumir o convertir archivos. El resultado puede llevar una marca de Claude incluso si las ideas, texto o datos subyacentes son originarios de otra fuente", señala Anthropic.

Cómo funcionará la detección

Anthropic está trabajando para que usuarios y otras entidades puedan detectar las marcas incluidas y la procedencia de los metadatos. Los modelos lanzados a partir del 2 de agosto ya incluyen estas marcas. Para los modelos anteriores, la Unión Europea da un plazo hasta el 2 de diciembre, que Anthropic tiene previsto cumplir.

En algunos supuestos, la marca puede no funcionar bien: si el texto ha sido muy editado, retocado, traducido o mezclado dentro de un fragmento mayor; si es un trozo muy corto; o si los metadatos son extirpados mediante conversión de archivo o capturas de pantalla.

Compañías adheridas al código

Además de Anthropic y OpenAI, también Google, Meta, Microsoft o Mistral han firmado el Código de Transparencia de la UE. Ni xAI ni las empresas chinas se han adherido de momento.

(Con información de El País)