AINews

Anthropic marcará con marcas invisibles todo el contenido procesado por Claude

Anthropic ha anunciado que pronto añadirá marcas de agua legibles por máquina al contenido procesado por cualquiera de sus modelos, en una medida para cumplir con la Ley de IA de la Unión Europea. Las marcas no solo cubren el contenido generado por IA, sino también el texto humano que Claude simplemente editó.

Puntos Clave

  • Anthropic incorporará marcas de agua invisibles en el texto generado por todos los modelos nuevos, a nivel mundial
  • La medida cumple con la Ley de IA de la UE, que se aplica a los modelos lanzados después del 2 de agosto
  • Las marcas de agua cubren todo el contenido procesado por Claude, incluidos los ligeros ajustes al texto humano
  • Se planea una API de detección de texto; las multas alcanzan hasta 15 millones de euros o el 3 % de los ingresos anuales globales

Cómo funciona la marca de agua

En un artículo de soporte, Anthropic explicó que está implementando marcas de agua legibles por máquina para cumplir con la Ley de IA de la Unión Europea, que exige a todos los proveedores de sistemas de IA marcar las salidas de audio, imagen, texto y vídeo generadas o manipuladas por IA. La ley se aplica a cualquier modelo de IA lanzado después del 2 de agosto, con un período de gracia hasta diciembre de 2026 para que los proveedores actualicen los modelos lanzados anteriormente.

Anthropic confirmó que todos los modelos nuevos ofrecidos a nivel mundial marcarán el contenido generado por IA desde el primer día. Las salidas de texto llevarán marcas de agua integradas invisibles para el usuario, mientras que otros archivos generados incluirán metadatos de procedencia con firma digital cuando sean compatibles. Para el contenido que no es texto, Anthropic utilizará el enfoque de metadatos C2PA.

Cobertura más allá del requisito legal

El enfoque de Anthropic va más allá de lo que exige la normativa. Las directrices de la UE eximen explícitamente los casos en los que un sistema de IA cumple una función auxiliar para la edición estándar, como la corrección gramatical, o cuando no altera sustancialmente el texto del usuario. Pero una marca de agua aplicada a nivel del modelo no puede distinguir la generación completa de la corrección de una coma, por lo que Claude podría terminar marcando contenido que la ley fue redactada para dejar intacto.

La empresa reconoció la situación: la gente suele usar Claude para corregir, traducir, resumir o convertir archivos, y el resultado puede llevar una marca de Claude incluso si las ideas, el texto o los datos subyacentes provienen de otra fuente.

Fácil de eludir, fácil de malinterpretar

Las marcas de agua de texto funcionan sesgando las elecciones de palabras del modelo según un patrón distribuido por todo el documento, detectable solo de forma agregada con la herramienta adecuada. Anthropic señaló que las marcas viajarán con el texto al copiarlo y pegarlo, y pueden persistir tras algunas ediciones. Pero pegar texto con marca de agua en otro sistema de chatbot que lo edite podría destruir la marca. En imágenes y vídeo, las capturas de pantalla o las herramientas estándar de edición de metadatos pueden eliminar la información.

La señal tampoco es concluyente. Anthropic dijo que una marca detectada ofrece una señal de que el contenido fue procesado por Claude, pero no es totalmente concluyente, y la marca podría incluso aparecer en contenido no generado por Claude. La ausencia de una marca detectada no significa que el contenido no haya sido generado o procesado por IA.

Herramienta de detección y sanciones

Anthropic planea lanzar una API de detección de texto para que los usuarios puedan identificar las marcas por sí mismos. Según la Ley de IA de la UE, las infracciones pueden acarrear multas de hasta 15 millones de euros, o el 3 por ciento de los ingresos anuales mundiales de una empresa.

Fuente: Ars Technica