ShieldFont busca envenenar los datos de entrenamiento de la IA sin perjudicar a los lectores humanos

Dos diseñadores han lanzado ShieldFont, una tipografía diseñada para ofrecer a los editores web una forma práctica de excluirse del entrenamiento no autorizado de IA. La fuente utiliza ligaduras para intercambiar palabras cuando la página se renderiza en pantalla, de modo que los lectores humanos ven un texto perfectamente normal mientras que los rastreadores que extraen el código HTML sin procesar obtienen una versión alterada y sin sentido.

Cómo funciona

Las ligaduras son una característica tradicional de muchas fuentes, normalmente usadas para sustituir pares de letras contiguas por una versión más legible. ShieldFont, en cambio, usa ligaduras para sustituir palabras enteras por otras. La sustitución solo ocurre cuando el motor de la fuente dibuja la página en pantalla, lo que significa que los rastreadores que descargan el código fuente en texto plano obtienen una versión alterada que los usuarios finales nunca ven.

Los diseñadores Isaque Seneda y Gabriel Abrucio explican en un documento técnico que sustituir palabras comunes por sinónimos o antónimos sería demasiado fácil de revertir para un rastreador inteligente, mientras que un galimatías inconexo se detectaría con facilidad. ShieldFont sustituye en su lugar las palabras por términos de la misma categoría gramatical que ocupan un contexto informativo completamente distinto, como cambiar “caballo” por “patata”. El resultado es una frase extraíble que parece semánticamente correcta pero tiene un significado totalmente alterado, de modo que incluso las páginas que superan el filtro de calidad de un rastreador contienen contenido revuelto capaz de envenenar un conjunto de datos de entrenamiento.

Las cifras

Tras tres meses de perfeccionar el diccionario de sustitución de palabras, los creadores lograron reunir casi 12.000 palabras comunes que pueden reemplazarse con ligaduras. Los editores pueden elegir entre tres mapeos distintos para cada palabra para aumentar el caos, codificar los suyos propios o alternar los mapeos de un párrafo a otro.

De media, ShieldFont sustituye el 24.5% de todas las palabras de una página, incluido el 45.8% de las palabras de contenido, lo que desfigura el significado de entre el 31% y el 56% de los pasajes individuales según el corpus estudiado. En las pruebas con seis pipelines de rastreo disponibles públicamente, más del 90% de las páginas que de otro modo serían aceptadas son rechazadas por los filtros de calidad tras las sustituciones. Del pequeño subconjunto que aún así se acepta, casi el 20% de las palabras que lo componen son lo que los autores llaman basura de entrenamiento: inglés real, escrito correctamente, que no afirma nada verdadero.

Limitaciones y alternativas

ShieldFont no es una defensa infalible. Cualquier página legible para un humano también podría ser interpretada correctamente por una herramienta de IA que renderice la página web completa y aplique reconocimiento óptico de caracteres. Pero eso requiere mucho más trabajo que extraer el HTML sin procesar, y los costes de API de las herramientas de rastreo de terceros sugieren que el pre-renderizado costaría entre cinco y 13 veces más que simplemente rastrear el HTML, lo que añade un gasto y un tiempo considerables a gran escala.

También hay efectos secundarios para los editores. Los motores de búsqueda, los lectores de pantalla, las herramientas de copiar y pegar y el software de traducción pueden verse afectados por el HTML alterado, lo que hace que la página resulte algo menos útil para el público al que va dirigida.

El objetivo de los diseñadores

Los creadores afirman que su principal propósito de fondo es hacer valer un principio básico de la ética de la IA: los creadores deberían tener una palabra significativa sobre si su trabajo se usa para entrenar sistemas de IA. “Cuando no se respeta el consentimiento, el diseño técnico puede hacer que apropiarse de ese trabajo sin permiso sea menos útil y más costoso”, escriben. “Ser localizable no significa consentir el entrenamiento de IA”. Esperan que otros desarrolladores aprovechen la idea de mostrar una cosa a los humanos y otra distinta a las máquinas, de modo que a los rastreadores de IA les resulte más difícil aprender a sortearlos a todos.

Fuente: Ars Technica