ChatGPT, ese agente ruso

La Internet Research Agency, la agencia de desinformación rusa fundada por Yevgueni Prigozhin en San Petersburgo, se hizo famosa por usar cuentas falsas para sembrar división política y manipular la opinión pública en países como EE UU. La estrategia de Pravda, el nuevo ecosistema de propaganda y desinformación del Kremlin, es “inundar” los motores de búsqueda para que los modelos de inteligencia artificial (IA) sean “entrenados” con información falsa. Como dijo el propagandista John Mark Dougan en una conferencia para funcionarios rusos en Moscú: “Al impulsar estas narrativas rusas desde la perspectiva rusa, podemos cambiar la inteligencia artificial a nivel mundial.”

La dificultad es mínima. Por un lado, las plataformas digitales han desmantelado sus departamentos de verificación de contenidos y dejado de financiar los externos. Por otro, las empresas de IA extraen contenidos de Internet de forma tan indiscriminada para entrenar a sus modelos que se les cuelan imágenes de violencia cruda y abuso sexual infantil. Un tercer argumento es que el relato del Kremlin y el de la Casa blanca están tan alineados como lo estuvieron durante la campaña presidencial de 2016. Pero ahora las empresas que hacen los modelos de IA trabajan para Donald Trump.

Quizá por eso los modelos de IA están intoxicando las manifestaciones antinmigración que empezaron en Los Ángeles y ahora se extienden por 50 Estados. Grok y ChatGPT juran que la foto real y comprobada de las tropas de la Guardia Nacional durmiendo en el suelo durante las manifestaciones del primer fin de semana es de Afganistán o del Capitolio en 2021. Y que la imagen de una montaña de ladrillos apilados que un comerciante de hardware de Malasia subió hace años a Internet era munición que Soros había dejado a los manifestantes del fin de semana para lanzar contra las autoridades y los funcionarios de inmigración. Ambas parecen confirmar el falso relato de que las manifestaciones son violentas y de que están siendo financiadas y equipadas en secreto por facciones externas misteriosas como Soros y otros bolsillos del Partido Demócrata.

Fundado en abril de 2022, Pravda mantiene cientos de dominios llenos de noticias falsas enfocados a distintos países alrededor del mundo, incluyendo España, donde ha difundido en castellano, catalán y euskera algunos de los principales bulos sobre la dana y el gran apagón del 28 de abril. Por ejemplo, que el respaldo a Ucrania había dejado sin fondos la ayuda a Valencia, o falsas declaraciones de Ursula von der Leyen que atribuían el apagón a un ciberataque ruso, 23 minutos después del corte general.

Según un informe del American Sunlight Project, más de 3,6 millones de los artículos que Pravda publicó el año pasado han sido asimilados por los principales chatbots occidentales. “Al inundar los resultados de búsqueda y los rastreadores de la web con desinformación pro-Kremlin, la Red está distorsionando la forma en que los modelos de lenguaje grandes procesan y presentan las noticias y la información”, señala. NewsGuard descubrió que, en un tercio de los casos, los chatbots de Microsoft, Google, OpenAI, You.com, xAI, Anthropic, Meta, Mistral y Perplexity reciclan argumentos presentados por Pravda y los regurgitan al exterior.

Los usamos para buscar, entender y traducir cosas, hacer terapia, y saber lo que está pasando en el mundo, pero los modelos de IA resultan tan vulnerables a las campañas de desinformación como un gymbro en el de Telegram de Alvise. Son los nuevos canales masivos de desinformación.