Cómo detectar y combatir las ‘fake news’ en la era de la IA

En agosto de 1835, el diario sensacionalista The Sun publicó unas imágenes sobre la luna que causaron un gran revuelo en la sociedad de la época. En el artículo se explicaba que John Herschel había fabricado el telescopio más grande del mundo para estudiar las estrellas y que había descubierto unos seres lunares: «cuadrúpedos marrones» que se asemejaban a bisontes en miniatura; criaturas parecidas a cabras; grullas de pico largo; y «grandes criaturas aladas, totalmente diferentes a cualquier tipo de pájaro». Esta podría considerarse una de las primeras noticias falsas que se hizo viral bajo una apariencia de veracidad, ya que muchos medios se hicieron eco de la publicación y la difundieron.

Ya en el siglo XXI, nos han contado, faltando a la verdad, que el 6 de mayo de 2022 un asteroide destruiría el planeta Tierra; que el Papa Francisco apoyaba la candidatura de Trump en las elecciones de 2016; o que el cantante José Luis Perales había muerto un día de agosto de 2023. Esto son solo tres ejemplos de cómo la digitalización ha cambiado radicalmente la forma en la que accedemos a la información y cómo ha acrecentado un problema: el aumento de las noticias falsas.

Según el informe ‘Riesgos Globales’ 2024 del Foro Económico Mundial, la desinformación –información falsa o fake news– ha emergido como el riesgo mundial más serio a corto plazo y se sitúa entre los cinco más graves para los próximos 10 años. En un mundo donde la inteligencia artificial (IA) ha transformado la creación y difusión de contenido, entender cómo identificar y frenar la desinformación es más necesario que nunca.

¿Qué son las fake news y cómo se expanden?

• Son contenidos aparentemente periodísticos diseñados para engañar, manipular y desinformar deliberadamente.
• Tecnologías como los deepfakes permiten la creación de vídeos ultrarrealistas que imitan voces y apariencias, sembrando confusión.
• Herramientas de generación de texto impulsadas por IA crean artículos convincentes, utilizados para erosionar confianza y polarizar sociedades.
• Algoritmos en redes sociales priorizan la viralidad de contenido sensacionalista, intensificando la propagación de bulos.

Impacto global

La IA ha desempeñado un papel crucial en la evolución de las fake news, elevándolas a niveles de sofisticación sin precedentes. Tecnologías como los deepfakes –contenidos audiovisuales manipulados o generados por IA que imitan la apariencia y la voz de una persona, real o inexistente- han hecho posible la creación de videos ultrarrealistas en los que figuras públicas aparentan decir o hacer cosas que nunca ocurrieron. Pero el engaño no se limita al ámbito visual: los modelos de generación de texto son capaces de producir artículos completos con un estilo que no se puede distinguir del que utilizan los medios de comunicación tradicionales.

¿Qué efectos pueden provocar?

• Influencia en elecciones y campañas políticas, desprestigiando candidatos y manipulando votantes.
• Generación de desconfianza en instituciones, medios de comunicación y figuras públicas.
• Costes económicos y sociales que van desde la desestabilización política hasta la generación de pánico colectivo.

Soluciones tecnológicas para combatir la desinformación

A pesar de que la IA es parte del problema, también ofrece soluciones para combatir la desinformación. Estas herramientas pueden analizar grandes volúmenes de contenido en tiempo real, buscando errores, inconsistencias o discrepancias con hechos verificados.

• Análisis en tiempo real. Plataformas como ClaimBuster o Factmata utilizan modelos lingüísticos avanzados para identificar patrones asociados con noticias falsas , como el uso de lenguaje sensacionalista, titulares exagerados o ausencia de fuentes fiables. Estas herramientas permiten a periodistas y organizaciones de fact-checking verificar rápidamente la veracidad de una noticia antes de que se difunda y se convierta en viral.
• Modelos predictivos. Algoritmos diseñados y entrenados específicamente para detectar contenido falso. Estos modelos utilizan aprendizaje automático para analizar miles de ejemplos de fake news y aprender a identificar características distintivas.
• Deepfake detection. Organizaciones académicas y tecnológicas están colaborando para desarrollar IA que detecte deepfakes mediante el análisis de detalles imperceptibles para el ojo humano, como inconsistencias en los reflejos o en los movimientos faciales.

Reto ético: censura vs libertad de expresión

Existe un delicado equilibrio entre moderar contenido falso y proteger la libertad de expresión. Mientras que una moderación excesiva puede interpretarse como censura, la falta de control permite que la desinformación se propague sin restricciones. Por lo tanto, resulta crucial desarrollar sistemas éticos y transparentes que respeten los derechos de los usuarios, al tiempo que combaten la desinformación de manera eficaz.

Además de las herramientas tecnológicas, la educación digital juega un papel fundamental en la lucha contra las noticias falsas. Capacitar a los usuarios para que cuestionen la información, verifiquen las fuentes y sean más críticos con lo que consumen es una estrategia indispensable. Las campañas educativas, combinadas con tecnologías de detección de desinformación, pueden crear un ecosistema informativo más resistente a las fake news.