Los usuarios de Grok generaron tres millones de imágenes sexualizadas en X en 11 días, incluidas más de 23.000 de menores

Los números para entender lo que ha pasado son casi inverosímiles. El Centro para Contrarrestar el Odio Digital (CCCDH, por sus siglas en inglés) ha publicado este jueves, junto a The New York Times, un estudio sobre las imágenes que generó Grok, la IA de Elon Musk, entre el 29 de diciembre y el 8 de enero. El resultado: los usuarios que usaron esa herramienta crearon una imagen sexualizada cada 41 segundos durante once días. En conjunto, se trataría de tres millones de imágenes de contenido sexual explícito, de las que al menos 23.000 mostraban a menores. Son 190 por minuto.

El problema empezó el 31 de diciembre cuando Musk pidió a Grok que publicara una imagen de sí mismo editada en bikini en su red X, antes Twitter. Esa imagen encendió la mecha. Los usuarios de X entendieron inmediatamente que existía una herramienta para desnudar digitalmente a cualquiera. Ese día, Grok generó casi 600.000 imágenes. Para elaborar el informe difundido este jueves, los expertos han trabajado sobre una muestra de 20.000 imágenes de las 4,6 millones que se publicaron entre el 29 de diciembre y el 8 de enero.

Y así empezó una carrera frenética para desnudar a mujeres reales y transformarlas en imágenes sexuales sin su consentimiento. No solo influencers o celebrities. El análisis identificó a figuras públicas como la viceprimera ministra sueca Ebba Busch, a Selena Gómez, Taylor Swift, Billie Eilish, Ariana Grande y Kamala Harris. Pero también le ocurrió a usuarias ordinarias de la plataforma. En una de las imágenes analizadas por investigadores, una adolescente había subido un selfi de sí misma en la escuela. Grok la modificó para mostrarla en bikini.

Musk permitió durante días que sus usuarios sexualizaran a mujeres y menores sin su consentimiento, a pesar de las quejas de usuarias y plataformas de derechos digitales Durante esos 11 días, la plataforma de Musk se convirtió en lo que, según los expertos en acoso online, es la mayor acumulación de contenido sexual generado por IA jamás documentada. Para poner perspectiva: Mr. Deepfakes, uno de los mayores foros dedicados a crear deepfakes sexuales de personas reales, alojaba en su mejor momento algo más de 43.000 videos. Grok generó setenta veces esa cantidad en apenas 11 días.

Ursula von der Leyen, presidenta de la Comisión, se horrorizó de que una plataforma permitiera a usuarios desnudar digitalmente a mujeres y niños. En España, el Ministerio de Juventud e Infancia expresó su preocupación y la Fiscalía abrió una investigación. Indonesia y Malasia bloquearon Grok directamente.

El 8 de enero, X limitó Grok a usuarios de pago. Y unos días después, añadió restricciones técnicas más severas e impidió el uso de estas imágenes. Pero ese tiempo fue más que suficiente. Las imágenes explotaron en internet como un virus.

Probablemente, las cifras más impactantes son las que se refieren a menores. El CCCDH identificó específicamente 101 imágenes de menores sexualizados en su muestra manual de 20.000 imágenes. Extrapolado al total de 4,6 millones, esto representa 23.338 imágenes de menores. La velocidad de generación fue de una imagen de un menor sexualizado cada 41 segundos.

Además, el 29% de las imágenes de menores sexualizados seguían públicamente accesibles en X el 15 de enero, casi una semana después de que se implementaran las primeras restricciones. Cita también ejemplos, como una imagen de seis menores en micro bikinis e imágenes de actores infantiles sexualizados. Todos siguen accesibles en X.