Al menos 1,2 millones de niños han sido desnudados y sexualizados en ‘deepfakes’

EL PAÍS ofrece en abierto la sección América Futura por su aporte informativo diario y global sobre desarrollo sostenible. Si quieres apoyar nuestro periodismo, suscríbete aquí.

Hoy en día, cualquiera puede desnudar sin consentimiento a una persona. Las aplicaciones de inteligencia artificial (IA) facilitaron el trámite para que con un par de clics tengan imágenes sexualizadas o incluso porno hiperrealista con apenas una foto. Este desafío —que vulnera especialmente a las mujeres— es también ya una preocupación para los defensores de la infancia. Un informe de Unicef publicado este miércoles muestra cómo 1 de cada 25 menores de 11 países del mundo (entre los que están México, Colombia, República Dominicana y Brasil) han sido afectados por este tipo de abuso sexual. Son 1,2 millones de niños y niñas.

“Aunque las imágenes son falsas, el daño es real”, explica María José Ravalli, jefa regional de abogacía y comunicación de Unicef para América Latina y el Caribe. Y las infancias lo saben: los propios niños y niñas son muy conscientes de este peligro. De acuerdo a esta investigación realizada también por Innocenti, Ecpat International e Interpol, en algunos de los países estudiados, hasta dos terceras partes de los entrevistados afirmaron estar preocupados de que se pueda emplear la IA para falsificar imágenes o vídeos suyos con carácter sexual. Sin embargo, esta percepción de inseguridad varía de un país a otro.

Por ello, Unicef insiste en aumentar la concienciación y las medidas de prevención y protección a nivel regional. “Este informe habla de 1,2 millones de niños y niñas afectados, pero estoy segura de que si a estos se les preguntara si conocen a otros afectados, las cifras se multiplicarían”, lamenta. El estudio se realizó también con menores de Marruecos, Macedonia del Norte, Armenia, Montenegro, Pakistán, Serbia y Túnez. Aproximadamente 1.000 niños y niñas usuarios de internet de entre 12 y 17 años y 1.000 padres, madres o cuidadores fueron encuestados por cada uno de los países. “Esto no es un tema lejano. Las cifras son alarmantes”.

Ravalli reconoce que la pelea es contra un monstruo de múltiples cabezas. Por esa razón, habla de herramientas articuladas y multisectoriales, principalmente tres. La alfabetización digital de los menores, una regulación sólida de las plataformas de redes sociales (con sistemas fáciles de denuncia y monitoreo constante y efectivo) y una legislación robusta que incluya las imágenes generadas con IA dentro de la tipificación de abuso sexual a menores o pederastia.

Y es que los expertos coinciden en que la realidad o no de las imágenes no disminuye la gravedad del delito: la consecuencia de sexualizar imágenes de menores convierte a estos niños directamente en víctimas. Un material generado por IA que muestre abusos sexuales de niños y niñas normaliza la explotación sexual infantil e impulsa la demanda de contenidos abusivos. Esta situación también plantea importantes obstáculos a las fuerzas del orden a la hora de identificar y proteger a menores.

Pero el problema va más allá de la generación de imágenes sexualizadas. El reto más difícil de controlar es cuando estas herramientas de IA se integran directamente en las plataformas de redes sociales, donde pueden difundirse con rapidez. “Es una responsabilidad colectiva, también de las multilaterales. Los niños y niñas no pueden estar esperando a que la legislación se actualice”, zanja Ravalli.