La empresa Anthropic anunció que incluirá marcas de agua en los contenidos generados por su modelo de inteligencia artificial Claude, para cumplir con los requisitos de transparencia de la Unión Europea. Esta medida busca brindar a los usuarios un contexto útil sobre la información que consumen.
Transparencia en la inteligencia artificial
Anthropic se alineará con los nuevos requisitos de transparencia que exige la Unión Europea, incluyendo la obligación de etiquetar de forma clara los contenidos sobre asuntos de interés público creados o manipulados con tecnología de inteligencia artificial (IA). A partir del 2 de agosto, todos los modelos de Claude lanzados incluirán un sistema de etiquetado que permitirá a las audiencias, plataformas y otros servicios de terceros identificar los contenidos generados por estos sistemas de IA.
El sistema de etiquetado
El sistema de etiquetado anunciado por Anthropic se incluirá por defecto en sus próximos modelos de IA. La empresa explica que la marcación se realizará de manera diferenciada según el formato del contenido generado. Las imágenes o gráficos creados con IA incluirán metadatos que evidencien su origen, basados en el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Por otra parte, los materiales de texto se identificarán por marcas de agua invisibles que se mantendrán incluso al copiar y pegar el contenido en plataformas de terceros y podrían persistir después de ciertas ediciones.
Detalles técnicos
La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente independientemente del producto Claude o de la superficie de origen del texto. La empresa precisa que la marca de agua no altera el significado, la calidad ni la legibilidad de la respuesta de Claude. Las marcas legibles por máquina se aplicarán globalmente a los modelos Claude compatibles, incluidos Claude Platform (API), Claude, Claude Code, Claude Cowork y Claude Tag.
Limitaciones y próximos pasos
El equipo de Anthropic reconoce que su sistema de etiquetado tiene ciertas limitaciones. Explica que si un sistema encuentra una marca de Claude, esto indica que el contenido pudo haber sido procesado por el modelo, pero no demuestra necesariamente que la IA haya creado originalmente las ideas, la información o el texto. La empresa advierte que la presencia de una marca debe entenderse como una señal de procedencia y no como una prueba absoluta de autoría humana o artificial. Anthropic trabaja en un mecanismo para que usuarios y terceros puedan detectar las marcas de agua y los metadatos de procedencia que servirán para identificar los contenidos creados por Claude, y dará a conocer próximamente los detalles sobre este mecanismo.
Compromiso con la regulación
Con el anuncio, Anthropic se ha convertido en una de las primeras empresas en comunicar su compromiso de ajustar sus productos para cumplir con la Ley de IA vigente en la Unión Europea. La empresa es uno de los firmantes del Código de Buenas Prácticas relacionado con la Ley de IA de la Unión Europea, y es posible que anuncie próximamente modificaciones para cumplir con los requisitos estipulados por la normativa.
