Elon Musk limita las funciones de edición de imágenes de Grok ante la avalancha de pornografía no consentida

El multimillonario Elon Musk, propietario de la red social X y de la plataforma de inteligencia artificial (IA) Grok, que permitía crear y recrear imágenes sexualizadas y violentas de mujeres y niñas, ha decidido limitar la aplicación de generación y edición de material audiovisual ante la avalancha de quejas por la vulneración del derecho a la propia imagen, a la vida privada y al honor, así como por las amenazas de prohibición de numerosos Gobiernos, incluido el español. Musk ha anunciado la medida en su propia red social, aunque ha dejado abiertas las habilidades de la aplicación a los suscriptores de pago.

Las posibilidades de crear vídeos pornográficos de mujeres sin su consentimiento, así como de imágenes simulando agresiones y feminicidios, se extendieron en X a finales de año de forma vertiginosa, a una velocidad superior a la de los organismos reguladores para evitarlo. Este miércoles, la ministra de Juventud e Infancia, Sira Rego, solicitó por escrito a la Fiscalía General del Estado que investigue a X y su IA por presuntos “delitos de difusión de material de violencia sexual contra la infancia”. La medida se sumó a la de otros Gobiernos, principalmente europeos, que propusieron incluso la prohibición de X, además de la imposición de sanciones.

Finalmente, Musk ha reaccionado parcialmente en X, donde ha publicado el siguiente anuncio: “La generación y edición de imágenes actualmente está limitada a suscriptores de pago.” En vez de establecer las salvaguardas que establece la ley para que la IA no pueda generar estos contenidos, ha limitado su utilización a los usuarios que pagan por el servicio, por lo que los pueden seguir generando bajo su responsabilidad.

Esta decisión se debe a que Musk considera que la obligación de mantener los contenidos que genera su IA dentro de la legalidad no le corresponde a la plataforma, sino al usuario. “Cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido”, sostiene.

La generación de imágenes pornográficas y violentas no consentidas en la red social de Musk se generalizó a finales de diciembre. Sin embargo, Musk minimizó el problema desde el principio y llegó a publicar una imagen propia en bikini para dar a entender que la habilidad se trataba de una función inocente.

Sin embargo, la reacción de Gobiernos y usuarios ha llevado a limitar por ahora la aplicación a quienes puedan ser inmediatamente identificados como responsables de los contenidos generados.

Ricard Martínez, director de la cátedra de Privacidad y Transformación Digital y profesor de la Universidad de Valencia, ya advirtió de la ilegalidad de las prácticas de erotización no permitida de contenidos: “No se puede sexualizar sin consentimiento ninguna imagen, aunque se especifique que es una recreación. Todos y cada uno de nosotros tenemos reconocido el derecho a la propia imagen, a la vida privada y al honor. En los entornos digitales debemos entender esto desde un punto de vista práctico y material. Utilizar sin permiso la imagen de alguien para sexualizarla constituye un comportamiento ilícito”.

Martínez discrepa con el planteamiento de Musk sobre la responsabilidad final de la difusión de este tipo de contenidos y advierte que implica al creador, para el que reclama educación digital y sexual, y a las plataformas prestadoras de servicios digitales, que facilitan su creación y difusión y están obligadas por ley a analizarlas y evitarlas de forma proactiva.

Además de la vulneración de la intimidad, el honor y la propia imagen, las imágenes sexualizadas pueden alimentar las campañas de extorsión, una práctica delictiva conocida como sextorsión.

La compañía de ciberseguridad Kaspersky ha detectado desde finales de año un repunte de Stealerium, un malware (código malicioso) abierto (accesible para cualquiera) que combina el robo de datos con sextorsión automatizada.

Más del 90% de las agresiones sexuales con imágenes no consentidas van dirigidas contra la población femenina. “Las mujeres son las canarias en la mina en relación con el abuso de la inteligencia artificial. No va a ser solo la niña de 14 años o Taylor Swift, van a ser las políticas, las líderes mundiales, las elecciones. Somos demasiado pocos y llegamos demasiado tarde, pero aún podemos tratar de mitigar el desastre que está surgiendo”, advierte Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Derechos Civiles Cibernéticos.