Bruselas estrecha el cerco sobre Grok y X con una nueva investigación por la generación de imágenes sexualizadas de menores

La Comisión Europea da un nuevo paso en su batalla para que las grandes tecnológicas cumplan con las leyes europeas. Acaba de lanzar una investigación sobre Grok, la herramienta de inteligencia artificial de la red social X, a cuenta de la función que permite imágenes sexualizadas de menores y otros contenidos ilegales, “incluido el contenido que pueda constituir material de abuso sexual infantil”, ha anunciado el Ejecutivo de la UE. Este expediente se suma al que ya tiene abierto la firma matriz, X, desde diciembre de 2023 para averiguar si su sistema de recomendaciones cumple con las obligaciones a la hora de gestionar riesgos que se pueden general en la red social.

El nuevo frente que se abre entre Bruselas y Elon Musk, propietario de X, estaba casi descontado desde hace semanas. Acabando 2025 explotó la nueva polémica provocada por Grok, una herramienta de inteligencia artificial que en noviembre había negado el holocausto. Esta vez era por la posibilidad de generar imágenes sexualizadas, también de menores. En solo 11 días −entre el 29 de diciembre y el 8 de enero− sus usuarios crearon 11 millones de imágenes manipuladas de este tipo, entre ellas más de 23.000 de menores. La inmensa polvareda que levantó en la opinión pública llevó a la presidenta de la Comisión, Ursula von der Leyen, a declarar que la UE “no delegará en Silicon Valley la protección de la infancia”.

“Los riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a graves daños”, apunta el comunicado del departamento que dirige la vicepresidenta Henna Virkkunen, responsable de tecnología y seguridad. Los siguientes pasos buscan confirmar estas sospechas sobre el incumplimiento de las obligaciones establecidas en el reglamento de servicios digitales (DSA, por sus siglas en inglés) o si, por el contrario, X mitiga los riesgos vinculados a “la violencia de género y las graves consecuencias para el bienestar físico y mental causados por la implementación de Grok en su plataforma”.

Además de esto, Bruselas ahonda en el expediente que X tiene abierto desde diciembre de 2023 ahora que la empresa ha decidido cambiar el sistema de recomendación basado en Grok. Parte de esta investigación, acabó en una multa a la empresa de 120 millones de euros por varios elementos: falta de transparencia en la publicidad, diseño engañoso de la marca azul que aparenta certificar la veracidad de un perfil y por el acceso a los datos de los investigadores. Con esta sanción se inauguró el régimen de multas que contempla el DSA.

Esa sanción, impuesta en diciembre pasado, se acercó al importe máximo que se puede imponer con este reglamento: llegó al 5,4% de la facturación anual de la empresa. En el caso cuya investigación se ha iniciado este lunes, la multa podría ser aún mayor. El castigo máximo que se permite está en el 6% de los ingresos en un año en todo el mundo de una empresa en el caso de los incumplimientos más graves. El reglamento también permite la aplicación de las medidas provisionales para mitigar el riesgo.

Este castigo provocó una virulenta reacción de varios miembros del Gobierno estadounidense, encabezados por su propio presidente, Donald Trump. “Es asquerosa”, llegó a decir en un nuevo ejemplo de los ataques contra la UE desde el otro lado del Atlántico a cuenta de la regulación digital. Este ha sido uno de los caballos con los que Washington más está cargando contra Bruselas. De hecho, sus máximos responsables de Comercio, el secretario, Howard Lutnick, y el representante, Jamieson Greer, llegaron a vincular directamente la negociación para resolver asuntos comerciales pendientes, como los aranceles adicionales al acero y el aluminio, a que la UE flexibilizara las regulaciones digitales.

Esta demanda de Washington se centra, principalmente, en el reglamento de servicios digitales, más focalizado en los contenidos de las plataformas como X, Facebook o Youtube que en el de mercados. El argumento que utilizan desde Washington es que el DSA coarta la libertad de expresión y castiga especialmente a las empresas estadounidense. Desde la UE la respuesta a la primera acusación es que este derecho fundamental no puede poner en riesgo otros ni poner en riesgo a colectivos vulnerables, como los menores.

Sobre la segunda, la contestación es que las obligaciones adicionales que impone la norma responden a unos criterios objetivos. Estas obligaciones recaen sobre las designadas grandes plataformas electrónicas: una etiqueta que recae en aquellas utilizadas por más del 10% de la población de la UE, es decir, al menos por unos 45 millones de usuarios.