Contra la vejación digital

La inteligencia artificial (IA) puede desvelar las cadenas del ADN, dibujar el mapa completo de los genes, proponer una composición inédita de un fármaco u optimizar un proceso industrial. Pero también incitar y dar instrucciones para un suicidio o desnudar a cualquier persona. La creación audiovisual es una de las habilidades en la que más se han volcado las grandes tecnológicas porque es una de las aplicaciones con mayor demanda y mayor potencial económico frente a usos más restringidos en entornos empresariales. La IA ya es capaz de crear una imagen original empleando únicamente comandos de voz o recrear —a partir de fotografías o secuencias originales— cualquier producto, y su origen resulta indetectable a la percepción humana. Como era de esperar, las webs pornográficas han comenzado a desplegar todo un arsenal de categorías.

La mayoría de las plataformas de IA incluyen limitaciones o salvaguardas para evitar estos usos, pero la creada por el multimillonario Elon Musk, conocida como Grok, nació sin esas cortapisas con la idea de promover el particular concepto de “libertad de expresión sin límites” de su dueño. Su argumento es que no es la herramienta la que comete delitos, sino quien la usa con fines delictivos, y ya lo aplicó al eliminar la moderación de los discursos de odio cuando compró la red X, entonces Twitter. Sin embargo, desde finales del pasado año, el anonimato y la facilidad de uso de Grok desató una avalancha de publicaciones de desnudos e imágenes sexualizadas creadas a partir de la manipulación de imágenes inocuas subidas a X o accesibles a través de cualquier otra red social. Bastaba con pedirle que desnudara a la protagonista de una instantánea (la inmensa mayoría de las víctimas son mujeres).

El alud de intromisiones en el derecho a la imagen pública y el honor a través de estas vejaciones digitales, unido a las amenazas de prohibición por parte de algunos gobiernos, principalmente europeos, ha llevado a Musk a establecer una limitación parcial a la manipulación, pero no a la difusión: a partir de ahora, solo los usuarios de pago, es decir, suscriptores identificables en caso de conflicto, podrán emplear Grok para editar imágenes. La ley europea de servicios digitales no lo entiende así y considera que el derecho a la propia imagen es tanto responsabilidad del usuario que manipula las imágenes como de la plataforma que permite que se generen y difundan.

La sexualización de mujeres y menores ha llegado a límites inéditos con la generalización de internet, en una espiral que debería preocupar a toda la sociedad y motivar reacciones contundentes por parte de los poderes públicos. Este mismo lunes, el regulador británico de seguridad en línea abrió una investigación a X que puede desembocar en multas de hasta el 10% de sus ingresos mundiales o el bloqueo por parte de un tribunal. La legislación punitiva es una vía, pero la más evidente es la aplicación de medidas preventivas por parte de las tecnológicas para rastrear y eliminar imágenes íntimas no consentidas o manipuladas. La amplitud e intangibilidad del universo digital no puede convertirse en un argumento para la impunidad.