Investigación / Desinformación
Línea de investigación · 2017 – hoyDesinformación: de buscar lo falso a medir la confianza
Empecé preguntándome cómo detectar una noticia falsa. Casi diez años después, la pregunta que me parece útil es otra: cuánta confianza merece una información, quién más la cuenta y con qué pruebas.
Lo nuevo no es la mentira, es cómo se propaga
Los engaños han existido siempre, y siempre se han combatido buscando mejores fuentes. Lo que cambió con las redes sociales es la velocidad: cualquiera puede publicar, nadie tiene que contrastar antes, y lo que encaja con lo que el público quiere oír se multiplica solo. Antes, un medio abría una investigación antes de publicar porque su reputación dependía de ello; hoy, una pieza puede viralizarse sin que nadie la haya corroborado.
Por eso esta línea no estudia solo el texto de una información, sino su recorrido: quién la dijo primero, quién la repite, si quienes la repiten son independientes entre sí y si alguien la desmiente.
Cinco etapas
-
2009 – 2014
Los cimientos: entender el tono
Antes de hablar de desinformación había que resolver algo más básico: que una máquina entendiera con qué tono se dice algo. En Brand Rain y Anpro21 trabajamos en escucha activa, análisis de sentimiento y detección de ironía para medir la reputación de marcas. De ahí salió el artículo de 2014 en la revista de la SEPLN y una idea que vuelve en todo lo que vino después: lo que se dice no siempre es lo que se quiere decir.
-
2017 – 2018
El problema: desinformación y democracia
Tras las elecciones estadounidenses de 2016 escribí sobre cómo la desinformación condiciona el debate político y por qué el problema es la difusión, no el engaño en sí. Mi conclusión entonces sigue en pie: hacen falta dos respuestas a la vez, ciudadanos con más espíritu crítico y sistemas de información capaces de frenar la propagación. Ese año revisé la literatura académica sobre detección automática, que ya apuntaba a lo que hoy sabemos: el texto solo no basta; hay que mirar la fuente, la red y la difusión.
-
2023
Detectar: titulares, clasificadores y la técnica del impostor
Con la IA generativa a la vista, publiqué una serie sobre detección. La primera parte trataba de la detección semántica de titulares: comparar lo que promete el titular con lo que cuenta el texto. La segunda proponía una clasificación neural en dos etapas. La tercera integraba los siete tipos de desinformación de Claire Wardle y las «cuatro P» de Eliot Higgins con lo que llamé la técnica del impostor: localizar la «zona 0» (dónde y cuándo se contó algo por primera vez), valorar la autoridad de quien lo emite y poner una IA a clasificar y otra a cuestionar lo que la primera concluye.
Lo probé en un caso real: el despido de Sam Altman de OpenAI, en noviembre de 2023, con un prototipo de verificación sobre los datos de TrawlingWeb. Eran propuestas metodológicas y prototipos, no un sistema medido; medirlo llegó después.
Parte I · Parte II · Parte III · El caso Sam Altman · In English
-
2024 – 2025
Nuevos frentes: el vídeo sintético y la redacción
Sora cambió las reglas: si un vídeo verosímil cuesta minutos, la coherencia entre texto, imagen y emoción pasa a ser una señal más. También escribí sobre cómo la IA generativa afecta al periodismo y propuse una herramienta de «seguridad temática» para quien redacta, con tres ejes que hoy siguen en el método: alcance, credibilidad («¿quién más habla del tema?») y autoridad del emisor.
Sora y la desinformación · IA generativa y periodismo · Seguridad temática
-
2026
El giro: no buscamos la verdad, medimos la confianza
La detección por palabras clave ha terminado: un modelo generativo escribe con el vocabulario que haga falta. Lo que delata un flujo artificial son sus patrones: velocidad frente a volumen, homogeneidad de quienes lo difunden, fuentes sin historial. La pregunta deja de ser «¿es falso?» y pasa a ser «¿cuánta confianza merece, y con qué pruebas?». Nosotros damos el mapa; el juicio es de quien lee.
La desinformación como riesgo · Verificación en la era de los modelos generativos · Anatomy of digital deception
Cuatro ideas que sostienen el método
La propagación delata
Una información real suele extenderse de forma escalonada. Una fabricada aparece de golpe, en muchos sitios a la vez, sin precursor.
Cien copias son una fuente
Un teletipo reproducido por cien medios cuenta una vez. Lo que da confianza son fuentes independientes, de sitios distintos.
Un veredicto binario falla
Lo cierto pero reciente o local puede tener poca corroboración; un bulo muy copiado, mucha repetición. Decir «verdadero» o «falso» engaña en los dos casos.
Las pruebas, a la vista
Un número sin pruebas pide fe. Cada índice tiene que llegar con las piezas que lo sostienen o lo contradicen, para que quien lee pueda juzgar.
FactCheck: un índice de confianza con sus pruebas
FactCheck aplica esta investigación sobre el motor de análisis de GeriAI, la capa de inteligencia de TrawlingWeb. Se le da el enlace de un artículo o un titular y devuelve un índice de 0 a 100: cuánta confianza merece según cuánto lo corroboran fuentes independientes en la prensa digital. Nunca dice «verdadero» ni «falso».
- Nueve señales con pesos documentados: fuentes independientes, apoyo o desmentido, países, claves en el titular, audiencia, calidad de la fuente, similitud, distribución en el tiempo y primera aparición. Los pesos son provisionales y están publicados.
- Dos recortes: con menos de dos fuentes independientes, el índice no pasa de 25; si desmienten más fuentes de las que lo respaldan, no pasa de 40.
- Una IA clasifica, otra cuestiona: un modelo local decide si cada pieza apoya o contradice; las dudosas las revisa un modelo de lenguaje, que solo clasifica. Es la idea de 2023, ahora medida: sobre 251 pares reales etiquetados a mano, el acierto pasa de 0,78 a 0,94.
- Calibrado con casos reales: un hecho contado por muchos medios independientes puntúa alto (en torno a 80); un bulo ya desmentido se queda en 40 y una información inventada, en 25.
También dice lo que aún no hace: si un hecho se cuenta con palabras muy distintas puede no encontrar todas las piezas, la clasificación de medios por historial no está lista y no analiza imagen ni vídeo.
FactCheck de GeriAI Gratis y sin registro: pega un enlace o un titular y mira cuánta confianza merece. Probar FactCheck →Preguntas para lo que viene
- La zona 0, hacia atrás: buscar la primera aparición real de una información fuera del periodo analizado, no solo dentro.
- La autoridad del emisor: si el medio o el autor ya trataba el tema antes y con qué consistencia.
- El efecto en las personas: cómo cambia lo que creemos y compartimos según cómo procesamos la información. Hay estudios sobre cómo evaluamos la credibilidad, pero aún no un trabajo propio; es la siguiente pregunta de esta línea.
Donde se ha aplicado
Desinformación y Fake News
Técnica del impostor, IA discriminativa y adversaria, procesamiento de lenguaje natural, deep learning y modelos de reconocimiento de voz.
Anti-fraude de noticias editoriales
Big Data, procesamiento de lenguaje natural, relación de entidades y análisis de datos en la nube.
Referencias
- Claire Wardle y Hossein Derakhshan, Information Disorder: Toward an interdisciplinary framework for research and policy making, Consejo de Europa, 2017.
- Eliot Higgins y las «cuatro P» de la desinformación: pasión, política, propaganda y pago.
- Kai Shu, Amy Sliva, Suhang Wang, Jiliang Tang y Huan Liu, «Fake News Detection on Social Media: A Data Mining Perspective», ACM SIGKDD Explorations, 2017.
- Eugenio Tacchini y otros, «Some Like it Hoax: Automated Fake News Detection in Social Networks», 2017.
- Hadeer Ahmed, «Detecting Opinion Spam and Fake News Using N-gram Analysis and Semantic Similarity», tesis, Universidad de Victoria, 2017.
- La regla más antigua del periodismo: contrastar con fuentes independientes antes de publicar.