La Fiscalía de París registra las oficinas de X en Francia y convoca a Elon Musk para que declare por manipulación de algoritmos

La Fiscalía de París anunció este martes que está registrando las oficinas de la red social X en Francia dentro de una investigación abierta en enero del año pasado para averiguar si manipuló su algoritmo para facilitar una injerencia extranjera al favorecer determinados contenidos. La unidad de delitos informáticos de la Fiscalía realiza los registros junto con Europol y la propia unidad de delitos informáticos de la policía francesa.

La Fiscalía hizo el anuncio en un mensaje en la propia X, aunque dijo que abandonaría la red social propiedad de Elon Musk para pasarse a otras como Instagram o Linkedln. Además, la Fiscalía ha convocado a Musk a declarar en una audiencia libre (no está obligado a estar físicamente) el próximo 20 de abril, y también a la ex CEO de X, Linda Yaccarino. También se ha citado a empleados de la empresa, para que declaren como testigos, entre el 20 y el 24 de abril.

La voz de alarma la dio en su día el diputado del partido Renacimiento Éric Bothorel, que transmitió en un correo a la Fiscalía su inquietud por cambio en el funcionamiento del algoritmo, que favorecía determinados contenidos, así como las aparentes injerencias en su gestión desde su adquisición por Elon Musk en 2022.

Una segunda denuncia realizada por el director de ciberseguridad que trabaja en la función pública lamentaba el cambio del funcionamiento en la plataforma favorecía la “representación de contenidos nauseabundos”. La fiscalía decidió el 12 de enero iniciar las pesquisas.

Bothorel denunciaba una “reducción en la diversidad de voces y opciones”, una plataforma que se aleja del objetivo de “garantizar un entorno seguro y respetuoso para todos”, una “falta de claridad respecto a los criterios que condujeron a los cambios en el algoritmo y las decisiones de moderación”.

Sexualización con Grok

La investigación francesa se ha ampliado por otras denuncias sobre el funcionamiento de Grok, la herramienta de IA de la plataforma, “que ha conducido a la difusión de contenido negacionista y de carácter sexual”, ha señalado la Fiscalía, esta vez en un comunicado. Algunos usuarios habían denunciado el uso del sistema de inteligencia artificial de X con fines pornográficos y pedófilos. Se le acusa de haber generado contenidos sexualmente explícitos que mostraban a mujeres y menores desnudos.

Hace un mes, la alta comisaria de la infancia, Sarah El Haïry, denunció en la propia X su indignación por “las peticiones de algunos usuarios a Grok IA de crear contenido de mujeres y niñas desnudas”. “Aunque la imagen es artificial, el daño es muy real”, denunciaba.

El ministro de Economía, Roland Lescure, y la responsable de Asuntos Digitales e Inteligencia Artificial, Anne Le Hénanff, denunciaron a la Fiscalía la difusión “de contenidos claramente ilícitos generados por la inteligencia artificial de Grok”, que constituyen un delito penal y pidieron su retirada inmediata.

La fiscal, Laure Beccuau, decidió entonces ampliar la investigación abierta hace un año sobre X por delitos de administración de una plataforma ilícita en banda organizada, extracción fraudulenta de datos, falsificación del funcionamiento de un sistema automatizado de procesamiento de datos en banda organizada y complicidad en la difusión de imágenes de menores con carácter pornográfico.

Un informe de la ONG AI Forensics, publicado en enero, analizó 20.000 imágenes generadas por Grok y determinó que más de la mitad mostraban a personas con poca ropa. Algunas de estas imágenes representaban a personas que parecían ser menores de edad.

X ha sido objeto ya de varias investigaciones en Francia. En enero, Arcom, la autoridad reguladora de la comunicación audiovisual, transmitió a la Comisión Europea varias denuncias contra la plataforma por manipular su algoritmo de recomendaciones.