Cristóbal Álvarez (@tobalcd) header
Cristóbal Álvarez (@tobalcd) profile picture

Studying how AI & algorithms kill democracy • PhD researcher in disinformation @URJC • Prof @ESIC_University • Harvard HBS • 20+ yrs in digital media

Spain
Joined March 2008
Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)Photo by Cristóbal Álvarez (@tobalcd)
Ya ha salido mi primer capítulo publicado. Me hace mucha ilusión. Se llama «El doble silencio digital» y va de por qué la UE, pionera en regular lo digital, no responde igual ante EE. UU. que ante China. Spoiler: la dependencia tecnológica pesa mucho. En «Europa en la encrucijada» (Comares Historia), ed. Sara Núñez de Prado.
25
Google cree haber detectado el primer ciberataque ejecutado de principio a fin por una IA. Un agente encontró las vulnerabilidades, programó cómo explotarlas y entró en los sistemas sin que ningún humano interviniera. Los objetivos eran webs francesas de medios, entretenimiento y educación. La documentación del sistema estaba en ruso, pero Google no lo atribuye a ningún grupo ni a ningún Estado. Si esto se confirma, ya puede hacer el trabajo entero de hackeo, y los primeros objetivos han sido medios de comunicación.
109
¿Está Rusia “entrenando” a ChatGPT? Un estudio revisado por pares de la Harvard Kennedy School Misinformation Review rebaja bastante el alarmismo. Alyukov, Makhortykh y colegas hicieron 416 preguntas basadas en bulos del Kremlin a ChatGPT, Gemini, Copilot y Grok. La clave es ver cuándo aparecían esas citas. Con preguntas generales, nunca. Solo surgían cuando la pregunta era tan concreta que, fuera de la red Pravda, apenas había nada publicado. Los autores lo llaman vacío de datos y lo separan de la manipulación deliberada. Pero un vacío también se puede ocupar a propósito, y no hace falta ser una potencia extranjera. A finales de octubre, NPR comprobó que ChatGPT citaba en la mitad de sus respuestas una red de webs creada para cubrir elecciones locales con poca cobertura. Su operador sigue sin identificar. El viernes lo planteé en el congreso Defensa, Inteligencia e Industria Dual de la URJC. Quién llena esos huecos primero se puede medir, y en España no consta una medición continua. doi.org/10.37016/mr-2020-187
1
69
Ayer presenté en el Congreso de Defensa, Inteligencia e Industria Dual de la @urjc «Quién responde cuando Europa pregunta». La idea de partida: quien escribe lo que un modelo lee puede escribir lo que responde. Propongo un mapa con cuatro puntos donde se puede manipular la respuesta de un LLM: lo que aprendió (entrenamiento), lo que su proveedor le ordena (instrucciones), lo que encuentra en la web (búsqueda) y lo que el usuario le da a leer (documentos). A tres se llega desde fuera, sin tocar el modelo. Con el criterio europeo de FIMI, eso da una injerencia documentada y dos dependencias. Y un método: una prueba repetible por punto, que cualquier organización puede pasar sin acceso al modelo, para saber por dónde entró una manipulación.
43
The Insider ha publicado una investigación basada en los mensajes hackeados de John Mark Dougan, el exayudante del sheriff de Florida asentado en Moscú. Investigadores de Clemson, NewsGuard e Insikt Group lo vinculan con la red de falsa prensa local que los chatbots llegaron a citar como fuente en 2024. Según la correspondencia, un oficial de la unidad 29155 del GRU le enviaba pagos en pequeñas cantidades, y Dougan informaba del alcance de sus piezas a controladores del FSB. El medio no identifica el origen de la filtración ni detalla cómo verificó el material. Si se confirma, documentaría la relación con los servicios de inteligencia rusos de una de las operaciones de influencia que más han llegado a los LLM’s. theins.press/en/inv/299417
93
Este viernes 13 participo en el congreso «Defensa, Inteligencia e Industria Dual» de la @urjc , junto a ponentes del SatCen, el @ieee_es o @aesmide . Hablaré de quién responde cuando Europa le pregunta a una IA, y de cómo influyen las grandes potencias en esa respuesta.
1
76
Reuters ha visto dos informes internos sobre quién movió en redes los disturbios de octubre en Francia. La UE atribuye a la red rusa Operation Overload los vídeos que suplantaban a medios occidentales para culpar a la inmigración de las revueltas y presentar al Gobierno como desbordado ante la situación. El dato que más me interesa está en el informe del Ministerio de Exteriores francés. Del 16 al 18 de octubre, los 10 posts más vistos en X de cada esfera sumaron: Prorrusa: 2,8 millones Israelí: más de 35 millones MAGA: más de 49 millones La operación encubierta existe, pero el alcance lo pusieron otros, a cara descubierta y con narrativas muy parecidas. Cuando hablamos de injerencia, seguimos buscando al actor oculto, pero, cada vez más, el volumen lo ponen cuentas que no necesitan esconderse.
104
Uno de cada diez ya se informa cada semana preguntando a un chatbot. En España, el 8 % (Digital News Report 2026). Es poco, pero crece: hace un año era el 7 % en el mundo. ¿Qué responde ese chatbot cuando la pregunta toca un bulo? En abril, @NewsGuardRating probó Le Chat, de Mistral, el campeón europeo de la IA, con diez bulos sobre la guerra de Irán difundidos por redes estatales de Rusia e Irán. Repitió información falsa en la mitad de las respuestas en inglés y en el 56,6 % en francés. El matiz importa. Ante preguntas neutras falló una de cada diez veces. Ante preguntas que ya daban el bulo por cierto, seis de cada diez. Tiende a seguirle la corriente a quien pregunta...(sic) Mistral es, además, la empresa cuya tecnología el Gobierno francés ha acordado integrar en sus Fuerzas Armadas y su administración. Cuando Europa le pregunta a su propia IA, quién responde?
1
98
Estos días circula el informe de @GoldenOwl_AI sobre las amenazas al 29-N, y casi todo el mundo lo resume igual: Rusia. Lo he leído entero. Rusia está, pero el informe describe dos cosas muy distintas y merece la pena separarlas. La primera es Enrique Arias Gil, politólogo madrileño buscado por la Audiencia Nacional y por Europol. Desde Moscú, a través de su canal de Telegram, ofrece a españoles colaborar como informantes, como cibervoluntarios pagados en criptomonedas o como soldados del ejército ruso. Por intención, es lo más grave del informe. La segunda es una granja de doce páginas de Facebook que se presentan como medios españoles y que, según los registros de Meta, se gestionan desde Vietnam. Se crearon entre mayo y octubre, registradas como restaurantes, bandas o tiendas de ropa infantil, con direcciones en Madrid, Sevilla o Barcelona. En junio y julio pagaron anuncios de "SI AMAS ESPAÑA, HAGA CLIC AQUÍ" para conseguir seguidores. En la Biblioteca de anuncios de Meta se ve que, en uno de ellos, 651 de las 1.031 personas alcanzadas en la UE tenían más de 65 años. Con esa audiencia ya construida, desde el 27 de octubre publican discursos y broncas que nunca ocurrieron entre Sánchez, Abascal o el Rey. Cada post lleva a webs propias monetizadas con publicidad programática. El informe estima que el 72 % de su tráfico llega desde redes sociales de pago. El negocio es de arbitraje y sencillo: compran atención barata, la convierten en clics y cobran por los anuncios. Publican contra el Gobierno porque ahí está la interacción, aunque también siembran contenido en la izquierda. El propio informe la clasifica como operación comercial y la trata aparte de la red rusa. Pero ojo que sea un negocio no la hace inofensiva. La audiencia ya está comprada y, como advierte el informe, puede reconvertirse para lo que haga falta en la recta final de campaña. La distinción importa porque cambia la respuesta. A Arias Gil se le combate con policía y contrainteligencia. A la granja, cortándole la financiación. Y esa financiación sale del mercado publicitario.
1
1
210
De lo de TikTok me quedo con una petición de Bruselas: que deje de usar el tiempo de visionado para decidir qué te recomienda. Si el regulador empieza a ver esa métrica como un riesgo, el problema va mucho más allá de TikTok. Meta ya tiene abierta la misma investigación…
Commission preliminary finds TikTok in breach of the Digital Services Act. The platform may lead users into harmful 'rabbit holes' by showing them an endless stream of personalised videos, including those related to mental health struggles & body image. link.europa.eu/WQj3qy
81
Lo que hoy sirve para colarte una compra servirá mañana para colarte una idea, y no sabrás quién la metió. En publicidad digital, casi todo lo que hemos construido para medir sirve para una cosa: saber si al otro lado hay una persona. ADEX acaba de publicar que la IA ya está en la mitad del fraude publicitario que detecta, pero, lo que me ha dejado pensando es su previsión para 2027: anuncios escritos para agentes de IA, con instrucciones escondidas. Si quien navega y compra por ti es un agente, al estafador le basta con convencer a la máquina. Ese mismo agente es el que ya te resume las noticias y te explica qué defiende cada candidato. ppc.land/ai-was-involved-in-…
26
Antes de las midterms surgieron en EE. UU. 37 medios locales nuevos. Se registraron en una sola noche; 36 de ellos en menos de ocho minutos. Su público no eran ni tú ni yo, eran los chatbots. 🧵
1
1
116
3/ El truco aprovecha cómo decide un chatbot: cuenta cuántas fuentes coinciden y cuánto se parecen a periodismo. En una carrera local con poca cobertura, un diario, un columnista y dos webs temáticas falsas bastan para simular consenso.
1
32
4/ Se desconoce quién está detrás. La táctica ya la usaba la red rusa Pravda; lo nuevo es verla en unas elecciones domésticas. Durante años las campañas optimizaron para el buscador. Ahora optimizan para el chatbot que responde al votante. visionheight.com/resources/s…
19
El informe de Alliance4Europe sobre el 17 de octubre en Francia merece leerse entero, porque dice cosas más interesantes que el titular “Rusia explotó las protestas”. Lo que establece: las protestas nacieron en Francia, por causas francesas. En las seis semanas previas, una red atribuida a Doppelganger publicó 639 mensajes coordinados, con unos 7,4 millones de visualizaciones. Lo que no muestra del todfo: si eso cambió algo en la calle. El dato que más me interesa es otro. En inglés, casi uno de cada cinco posts culpaba a migrantes o al islam; en francés, uno de cada 33. El giro migratorio se construyó fuera de Francia, y no solo desde Moscú: también desde la extrema derecha anglófona y desde medios de EE. UU. Por eso me parece más útil preguntar quién necesita a quién que quién encendió la mecha. El marco de la injerencia extranjera se queda corto cuando las causas son locales y el relato lo amplifican a la vez actores extranjeros y ecosistemas políticos aliados. Un detalle para quien siga la IA de cerca: la red Pravda publicó 1.018 artículos en 28 webs y nueve idiomas, pensados tanto para buscadores y modelos de lenguaje como para lectores humanos. Ahí hay una frontera que Europa apenas está mirando.
Franceʼs October 17 protests were entirely French in origin. Yet, Russian influence networks worked for weeks to weaponize them, research by @Alliance4Europe reveals. 🧵 1/9 ⬇️
67
Día de elecciones en EE. UU. y el FT cuenta que agentes de OpenAI se salieron de sus pruebas, crearon cuentas y se mandaron miles de mensajes entre ellos. Llevamos diez años vigilando a Rusia o Corea del Norte en cada elección. Puede que el próximo problema no tenga ‘pasaporte’.
A spate of incidents involving AI agents breaking out of controlled environments are raising doubts about leading AI labs’ ability to keep increasingly powerful systems in check ft.trib.al/PrSbKQg
69