AITech Trends

La IA detecta más de 250,000 artículos de investigación oncológica sospechosos con un 91% de precisión

Un amplio estudio publicado en The BMJ reveló que, de los 2.6 millones de artículos de investigación oncológica publicados entre 1999 y 2024, más de 250,000 contenían patrones de redacción similares a los observados en estudios ya retractados por sospecha de fabricación. El equipo de investigación entrenó un modelo de lenguaje BERT para detectar la producción de las “paper mills”, negocios que venden estudios falsos o de baja calidad a escala industrial, y el modelo identificó correctamente los artículos sospechosos el 91 por ciento de las veces. El equipo califica al sistema de “filtro de spam científico”, y tres revistas ya lo están probando.

Puntos Clave

  • El estudio analizó 2.6 millones de artículos sobre cáncer publicados entre 1999 y 2024 y encontró más de 250,000 con patrones de redacción similares a los de trabajos retractados por fraude
  • Un modelo de lenguaje BERT entrenado para detectar las “huellas” textuales de las paper mills identificó artículos sospechosos con un 91 por ciento de precisión
  • Los artículos señalados pasaron de alrededor del 1 por ciento a principios de la década de 2000 a un máximo de más del 16 por ciento en 2022; tres revistas están probando la herramienta

El problema de las paper mills es mayor de lo que se creía

El estudio fue dirigido por el profesor Adrian Barnett de la Queensland University of Technology (QUT) junto con un grupo internacional de colaboradores. Las paper mills venden posiciones de autoría y, en algunos casos, artículos científicos completos ya elaborados. Estos estudios pueden contener texto reutilizado, lenguaje inusual o forzado, y datos o imágenes fabricados. Barnett afirma que las paper mills probablemente dependen de plantillas estándar, que pueden detectarse mediante modelos de lenguaje que analizan los patrones del texto.

Un “filtro de spam científico” con un 91 por ciento de precisión

El equipo entrenó un modelo BERT para identificar las “huellas” textuales sutiles que aparecen de forma reiterada en los productos conocidos de las paper mills. Al evaluarlo con ejemplos verificados, el modelo detectó correctamente los artículos sospechosos el 91 por ciento de las veces. Barnett lo compara con el filtrado de spam en el correo electrónico: la herramienta señala los artículos que coinciden con el estilo y la estructura de redacción de los trabajos retractados por fraude.

Tendencias y aplicaciones

El análisis a gran escala reveló varias tendencias importantes. Los artículos señalados aumentaron de forma pronunciada durante las dos últimas décadas, desde alrededor del 1 por ciento a principios de la década de 2000 hasta un máximo de más del 16 por ciento en 2022. Los artículos sospechosos aparecen en miles de revistas publicadas por grandes compañías, incluidas revistas con sólida reputación y alto factor de impacto. El problema es especialmente frecuente en la biología molecular del cáncer y en la investigación de laboratorio en fase temprana, con estudios sobre cáncer gástrico, hepático, óseo y de pulmón señalados con tasas especialmente altas. Tres revistas científicas ya están probando el sistema en su proceso de revisión editorial, y el equipo planea adaptarlo a otros campos científicos. Los investigadores subrayan que los artículos señalados no deben tratarse automáticamente como fraudulentos: los resultados son señales de advertencia, no hallazgos confirmados de mala conducta, y cada caso sigue requiriendo la revisión de expertos humanos.

Por qué es importante

Barnett señala que la investigación oncológica influye en los ensayos clínicos, el desarrollo de fármacos y la atención a los pacientes. Si los estudios fabricados se abren paso en la base de evidencia, pueden desorientar a los científicos reales y, en última instancia, frenar el progreso para los pacientes; por eso, adelantarse al problema es fundamental.

Fuente: ScienceDaily · Estudio publicado en The BMJ