Hacer más contra el odio en redes

La policía investiga cómo la dirección particular de Rita Maestre, portavoz de Más Madrid en el Ayuntamiento de la capital, fue a parar a un chat público en el que se difunden contactos de prostitución. Este un ejemplo más de como las plataformas de comunicación por internet (en este caso, Telegram) están siendo usada para acosar a mujeres, especialmente mujeres en posiciones de poder, a las que se quiere intimidar para que abandonen estos espacios. Las autoridades están actuando —ahí está la detención de dos hombres por acosar y amenazar por redes a la líder de Podemos, Ione Belarra—, pero la realidad es que, por diseño, los algoritmos de las redes sociales dan más relevancia a los contenidos que fomentan la ira en los usuarios. Sobre esa base se construye un andamiaje de monetización del odio magnificado por las plataformas tecnológicas, con efectos venenosos para el Estado democrático de derecho.

El presidente del Gobierno, Pedro Sánchez, ha denunciado este problema en varios foros, nacionales e internacionales, y ha prometido medidas: la última, una herramienta para la monitorización del odio en redes con el nombre de HODIO. Esta herramienta, que según el Ejecutivo está todavía en fase de desarrollo, en principio ha de ser la evolución de otro instrumento, en marcha desde 2022, del Observatorio Español del Racismo y la Xenofobia (Oberaxe). Si hasta ahora lo que hacía es vigilar las redes para encontrar discursos de odio —algo que permitió cuantificar el incremento de estos mensajes durante los disturbios racistas de Torre Pacheco (Murcia) del verano agosto—, la nueva herramienta procurará indicar qué plataformas son las más tolerantes con esta clase de contenidos.

El Oberaxe depende del Ministerio de Inclusión, pero sería bueno desacoplar del Ejecutivo algo tan sensible como juzgar el tenor del discurso público. Convendría pues transferirlo a una autoridad autonóma dependiente del Parlamento, no del Gobierno, es decir, menos sometida a los vaivenes partidistas. Según el Reglamento de Servicios Digitales de la UE (que incluye los discursos de odio), todo estado miembro debe tener un coordinador de servicios digitales —en España, la Comisión Nacional de los Mercados y la Competencia— con capacidad de regulación y sanción ante los incumplimientos del Reglamento. En febrero, la Comisión Europa amonestó a España por no dotar a la CNMC de la capacidad de cumplir con estas obligaciones. Es la oportunidad para replantearse la necesidad de una institución específica que cubra todos los aspectos de la regulación digital.

El objetivo de HODIO es señalar a las plataformas comerciales y forzarlas a recuperar los mecanismos de moderación —aunque falibles, robustos— que tenían hasta hace un par de años, cuando los fueron perdiendo, en el caso de las plataformas estadounidenses, por presión del trumpismo.

El Ejecutivo parece considerar que, como empresas comerciales que son, esta presión resultará suficiente para obligarlas a controlar y controlarse. Peca ese punto de vista de cierta ingenuidad: las redes sociales han dejado de ser en muchos casos meras empresas y se han convertido en herramientas de proyección política, sea de sus propietarios, sea de Gobiernos como el de EE UU, que ha convertido en política de Estado impedir la regulación. Con recursos financieros prácticamente ilimitados y apoyo político, las grandes tecnológicas podrán combatir todo intento de regulación. Solo la Unión Europea, en coordinación con sus Estados miembros, podrá enfrentarse a ellas. Y, aun entonces, necesitará impulsar soluciones alternativas que, de paso, garanticen la soberanía tecnológica europea.