Investigación / Desinformación

Síntesis de una línea de investigación · 2017 – hoy

Desinformación: de buscar lo falso a medir la confianza

Empecé preguntándome cómo detectar una noticia falsa. Casi diez años después, la pregunta que me parece útil es otra: cuánta confianza merece una información, quién más la cuenta y con qué pruebas.

Esta página resume lo que he publicado sobre el tema y lo que se ha construido y medido en FactCheck. El método y la evaluación completos están en el working paper Medir la corroboración, no la veracidad (2026, sin revisión por pares).

La pregunta

Lo nuevo no es la mentira, es cómo se propaga

Los engaños han existido siempre, y siempre se han combatido buscando mejores fuentes. Lo que cambió con las redes sociales es la velocidad: cualquiera puede publicar, nadie tiene que contrastar antes, y lo que encaja con lo que el público quiere oír se multiplica solo. Antes, un medio abría una investigación antes de publicar porque su reputación dependía de ello; hoy, una pieza puede viralizarse sin que nadie la haya corroborado.

Por eso esta línea no estudia solo el texto de una información, sino su recorrido: quién la dijo primero, quién la repite, si quienes la repiten son independientes entre sí y si alguien la desmiente.

Cómo ha evolucionado

Cinco etapas

  1. 2009 – 2014

    Los cimientos: entender el tono

    Antes de hablar de desinformación había que resolver algo más básico: que una máquina entendiera con qué tono se dice algo. En Brand Rain y Anpro21 trabajamos en escucha activa, análisis de sentimiento y detección de ironía para medir la reputación de marcas. De ahí salió el artículo de 2014 en la revista de la SEPLN y una idea que vuelve en todo lo que vino después: lo que se dice no siempre es lo que se quiere decir.

    Artículo SEPLN 2014 · La detección de la ironía

  2. 2017 – 2018

    El problema: desinformación y democracia

    Tras las elecciones estadounidenses de 2016 escribí sobre cómo la desinformación condiciona el debate político y por qué el problema es la difusión, no el engaño en sí. Mi conclusión entonces sigue en pie: hacen falta dos respuestas a la vez, ciudadanos con más espíritu crítico y sistemas de información capaces de frenar la propagación. Los trabajos académicos de entonces sobre detección automática (están en las referencias) ya apuntaban a lo que hoy sabemos: el texto solo no basta; hay que mirar la fuente, la red y la difusión.

    Las fake news en la política

  3. 2023

    Detectar: titulares, clasificadores y la técnica del impostor

    Con la IA generativa a la vista, publiqué una serie sobre detección. La primera parte trataba de la detección semántica de titulares: comparar lo que promete el titular con lo que cuenta el texto. La segunda proponía una clasificación neural en dos etapas. La tercera integraba los siete tipos de desinformación de Claire Wardle y las «cuatro P» de Eliot Higgins con lo que llamé la técnica del impostor: localizar la «zona 0» (dónde y cuándo se contó algo por primera vez), valorar la autoridad de quien lo emite y poner una IA a clasificar y otra a cuestionar lo que la primera concluye.

    Lo probé en un caso real: el despido de Sam Altman de OpenAI, en noviembre de 2023, con un prototipo de verificación sobre los datos de TrawlingWeb. Eran propuestas metodológicas y prototipos, no un sistema medido; medirlo llegó después.

    Parte I · Parte II · Parte III · El caso Sam Altman · In English

  4. 2024 – 2025

    Nuevos frentes: el vídeo sintético y la redacción

    Sora cambió las reglas: si un vídeo verosímil cuesta minutos, la coherencia entre texto, imagen y emoción pasa a ser una señal más. También escribí sobre cómo la IA generativa afecta al periodismo y propuse una herramienta de «seguridad temática» para quien redacta, con tres ejes que hoy siguen en el método: alcance, credibilidad («¿quién más habla del tema?») y autoridad del emisor.

    Sora y la desinformación · IA generativa y periodismo · Seguridad temática

  5. 2026

    El giro: no buscamos la verdad, medimos la confianza

    La detección por palabras clave ha terminado: un modelo generativo escribe con el vocabulario que haga falta. Lo que puede delatar un flujo artificial son sus patrones: velocidad frente a volumen, homogeneidad de quienes lo difunden, fuentes sin historial. La pregunta deja de ser «¿es falso?» y pasa a ser «¿cuánta confianza merece, y con qué pruebas?». Nosotros damos el mapa; el juicio es de quien lee.

    La desinformación como riesgo · Verificación en la era de los modelos generativos · Anatomy of digital deception

Lo que he aprendido

Cuatro ideas de partida

Guían el diseño de FactCheck. Son hipótesis de trabajo, no conclusiones demostradas: la primera, por ejemplo, aún no está medida.

La propagación puede delatar

La hipótesis: una información real suele extenderse de forma escalonada y una fabricada aparece de golpe, en muchos sitios a la vez, sin precursor. FactCheck la usa con peso bajo hasta poder medirla.

Cien copias son una fuente

Un teletipo reproducido por cien medios cuenta una vez. Lo que da confianza son fuentes independientes, de sitios distintos.

Un veredicto binario falla

Lo cierto pero reciente o local puede tener poca corroboración; un bulo muy copiado, mucha repetición. Decir «verdadero» o «falso» engaña en los dos casos.

Las pruebas, a la vista

Un número sin pruebas pide fe. Cada índice tiene que llegar con las piezas que lo sostienen o lo contradicen, para que quien lee pueda juzgar.

El resultado

FactCheck: un índice de confianza con sus pruebas

FactCheck aplica esta investigación sobre el motor de análisis de GeriAI, la capa de inteligencia de TrawlingWeb. Se le da el enlace de un artículo o un titular y devuelve un índice de 0 a 100: cuánta confianza merece según cuánto lo corroboran fuentes independientes en la prensa digital. Nunca dice «verdadero» ni «falso».

  • Nueve señales: fuentes independientes, apoyo o desmentido, países, claves en el titular, audiencia, calidad de la fuente, similitud, distribución en el tiempo y primera aparición. Los pesos con que se combinan son provisionales: todavía no están calibrados con datos, y no se publican.
  • Recortes fijados a mano: con menos de reservado fuentes independientes, o si ninguna lo respalda, el índice no pasa de reservado; si desmienten más fuentes de las que lo respaldan, o lo respaldan menos del reservado de las piezas evaluadas, no pasa de reservado.
  • Un modelo clasifica, otro revisa: un modelo local decide si cada pieza apoya o contradice; las dudosas y las contradicciones las revisa un modelo de lenguaje, que solo clasifica. Es una versión de la idea de 2023. En una prueba con 251 pares de titulares reales, el modelo de lenguaje acierta 0,94 frente a 0,78 del modelo local. Es una medida preliminar: parte de las etiquetas las puso una IA y aún no las ha revisado una persona.
  • Probado con casos reales: en unos diez casos, un hecho contado por muchos medios independientes puntuó alto (en torno a 80); un bulo ya desmentido se quedó en reservado y una información inventada, en reservado, por los recortes. Son ejemplos, no una evaluación sistemática.

Las cifras marcadas se reservan para evitar que se preparen noticias para puntuar alto. Los investigadores que las necesiten pueden pedirlas por contacto.

También dice lo que aún no hace: si un hecho se cuenta con palabras muy distintas puede no encontrar todas las piezas, la clasificación de medios por historial no está lista y no analiza imagen ni vídeo. El método, las señales y la evaluación están explicados en el working paper.

FactCheck de GeriAI Gratis y sin registro: pega un enlace o un titular y mira cuánta confianza merece. Probar FactCheck →
Lo que queda abierto

Preguntas para lo que viene

  • La zona 0, hacia atrás: buscar la primera aparición real de una información fuera del periodo analizado, no solo dentro.
  • La autoridad del emisor: si el medio o el autor ya trataba el tema antes y con qué consistencia.
  • El efecto en las personas: cómo cambia lo que creemos y compartimos según cómo procesamos la información. Hay estudios sobre cómo evaluamos la credibilidad, pero aún no un trabajo propio; es la siguiente pregunta de esta línea.
Proyectos relacionados

Donde se ha aplicado

Desinformación y Fake News

Técnica del impostor, IA discriminativa y adversaria, procesamiento de lenguaje natural, deep learning y modelos de reconocimiento de voz.

Anti-fraude de noticias editoriales

Big Data, procesamiento de lenguaje natural, relación de entidades y análisis de datos en la nube.

Todos los proyectos técnicos →

En qué me apoyo

Referencias

  • Claire Wardle y Hossein Derakhshan, Information Disorder: Toward an interdisciplinary framework for research and policy making, Consejo de Europa, 2017.
  • Eliot Higgins y las «cuatro P» de la desinformación: pasión, política, propaganda y pago.
  • Kai Shu, Amy Sliva, Suhang Wang, Jiliang Tang y Huan Liu, «Fake News Detection on Social Media: A Data Mining Perspective», ACM SIGKDD Explorations, 2017.
  • Eugenio Tacchini y otros, «Some Like it Hoax: Automated Fake News Detection in Social Networks», 2017.
  • Hadeer Ahmed, «Detecting Opinion Spam and Fake News Using N-gram Analysis and Semantic Similarity», tesis, Universidad de Victoria, 2017.
  • La regla más antigua del periodismo: contrastar con fuentes independientes antes de publicar.

← Todas las líneas de investigación