Así es el movimiento de IA feminista que está creciendo en América Latina

Esta es la versión web de Americanas, la newsletter de EL PAÍS América en el que aborda noticias e ideas con perspectiva de género. Si quiere suscribirse, puede hacerlo en este enlace.

Un video realizado con inteligencia artificial (IA) se viralizó en redes sociales al impulso de cuentas que responden al partido del presidente argentino Javier Milei en julio del 2025. Eran imágenes falsas de la periodista argentina Julia Mengolini y su hermano, mostrando una supuesta relación incestuosa. Ella inició una causa judicial y relató el impacto que esta violencia tuvo y tiene en su vida. Estas deepfake con intenciones violentas se expanden ahora, más que nunca, con el uso de la IA.

Desde el año pasado, me pregunto qué estamos haciendo al respecto. Comencé a hacer un relevamiento que voy actualizando sobre cómo están usando la IA activistas, profesionales y organizaciones feministas en América Latina. Hay violencia, pero también hay acciones. Acá van algunas experiencias.

Primero, vamos a contextualizar. Le pregunté a Graciela Natansohn, investigadora en feminismo y comunicación de la Universidad Federal da Bahía, Brasil, qué es una IA feminista. “No significa una IA por y para mujeres, aunque en muchos casos puede ser deseable y útil, pero se trata de algo mayor. Una IA feminista para territorios colonizados como América Latina y el Caribe es una tecnología que protege y fomenta modos de vida locales, que respeta el tiempo y el territorio de las comunidades que atiende, que incluye los puntos de vista de todas, todos y todes en las decisiones que se toman y que no sirva a otros fines que los determinados por esa comunidad”, respondió.

Y también aportó Mailén García, directora de DataGénero: “Entendemos la IA feminista como un enfoque político, técnico y ético que busca transformar profundamente la manera en que se producen, implementan y gobiernan los sistemas de IA”.

Sabemos que los datos y los algoritmos no son neutrales, por eso García resaltó que la IA feminista “no se limita a corregir sesgos evidentes, sino que propone revisar y reimaginar todo el ciclo de vida de la tecnología para que contribuya a la justicia social, la igualdad de género y la sostenibilidad ambiental”.

Enredadadas en IA

Una característica de los feminismos latinoamericanos, históricamente, es trabajar en redes. Siguiendo esa tradición está en marcha la flamante Red Feminista de IA en América Latina y el Caribe. Su primera acción fue convocar a quienes estén desarrollando proyectos en la región. Y fue un éxito. Recibieron 129 propuestas, fueron seleccionadas 50, de los cuales 25 están en fase Semilla, 19 son Prototipo, seis en etapa piloto y cuatro cambiaron de fase (Prototipo a Semilla). Finalmente, serán seleccionados 10 proyectos para continuar con su desarrollo.

La Red es apoyada por el Centro Internacional de Investigaciones para el Desarrollo (IDRC) de Canadá, que ya había impulsado otras experiencias entre 2021 y 2024, y de donde surge esta nueva iniciativa regional.

La IA feminista “impulsa una finalidad pública para la tecnología: debe expandir derechos, mejorar políticas, fortalecer instituciones y producir conocimiento que beneficie a la sociedad. Este horizonte se traduce en proyectos como AymurAI, orientados a abrir información, fortalecer el acceso a la justicia y producir evidencia para transformar políticas públicas”, explicó García, que es una de las integrantes de la Red y una de las creadoras del software que anonimiza documentos, recolecta y pone a disposición datos a partir de sentencias judiciales.

Hay dos experiencias más en Argentina en el ámbito judicial, pero que se dan dentro del Chat GPT. Una es Arvage IA, desarrollada por la jueza Rita Custet para aplicar enfoque de género al análisis jurídico, y la otra es SofIA, de la abogada Ana Correa que la presenta como una herramienta que “detecta sesgos de género y propone alternativas que tengan en cuenta la historia y los datos que involucran a mujeres y personas LGBTIQ+”.

Desde Brasil, Natansohn suma a este recorrido de IA feminista latinoamericana a Nhandeflix (que significa “nuestro flix”) que funciona en su propia intranet y es un aplicativo multimedios desarrollado por comunidades guaraníes de San Paulo, que es accesible por Wi-Fi en las comunidades donde, además de un servicio de mensajería, se ponen a disposición películas, audios y todo tipo de archivos “preservando y fortaleciendo la lengua, la cultura y la espiritualidad guaraní”.

El Instituto AzMina, por su parte, creó QuitérIA, una IA que “monitorea propuestas legislativas del Congreso brasileño, en relación a derechos de infancias, mujeres y personas LGBTIQ+”.

“Evitar el extractivismo de datos y el uso de data centers es un principio feminista en IA, aunque hay una diversidad de perspectivas sobre lo que podría ser considerado o no como feminista”, compartió la investigadora desde Bahía. “Es el caso de la plataforma Plinq, que permite que mujeres consulten si los hombres con quienes se relacionan tienen antecedentes criminales o registros de violencia. Esto se realiza con datos públicos, por lo que limita su alcance (procesos sigilosos no son detectados) y, además, el servicio es pago y no usa softwares libres y auditables. Se trata de una start-up, un emprendimiento comercial individual”.

Hay otro proyecto que conozco porque participo de él: Narrativas de feminicidio. Se trata de una investigación participativa, donde leemos y anotamos noticias publicadas en América Latina para crear un repositorio de prácticas periodísticas dañinas y constructivas en la cobertura de feminicidios. Con este conjunto de datos, la idea es diseñar posibles herramientas de IA que sirvan para apoyar una producción de noticias feminista y contextualizada. Es una iniciativa de Datos Contra Feminicidio colaborando con la Data in Society Collective (DISCO Lab) de la Universidad de Brown, en Estados Unidos.

Sobre violencia de género hay desarrollos con IA como Sof+IA, de Chile, que se identifica como un Sistema de Oída Feminista que orienta ante situaciones de maltratos, y también OlimpIA, una plataforma que brinda atención gratuita, garantizando el anonimato a mujeres que son agredidas online. Lleva el nombre de Olimpia Coral Melo, impulsora de leyes en toda la región para prevenir y sancionar la violencia digital. Lo destacable es que fue desarrollada por sobrevivientes.

En el ámbito normativo, en la última semana, el Comité de Expertas del Mecanismo de Seguimiento de la Convención de Belém do Pará (MESECVI), de la OEA, presentó en Brasil la Ley Modelo Interamericana para enfrentar la violencia digital contra las mujeres, que tiene articulados relacionados con IA.

La gobernanza democrática de la IA es otro eje central para las feministas, “donde las decisiones se toman con participación, con criterios de justicia social y ambiental, y con regulaciones que distribuyan el poder de manera equitativa. La ética del cuidado acompaña todo el proceso: proteger la privacidad, garantizar la seguridad digital, reducir riesgos para comunidades vulneradas y minimizar el impacto ecológico de las infraestructuras tecnológicas”, resumió García.

Y recalcó: “No es IA por IA. Es decir, también pensamos cuándo tiene sentido, qué beneficios va a traer y qué perjuicios”. El proceso está en marcha, y es importante acompañarles.

Nuestras recomendadas de la semana:

Nora Sándigo, ‘la gran madre’ donde las familias de migrantes buscan refugio en Estados Unidos

Sentarse a la mesa en Nochevieja cuando te aterra comer: “Se pasa muy mal y te sientes muy sola”

Pilar del Río: “La democracia no está en crisis, las sociedades sí”

São Paulo detiene a 580 agresores en una megaoperación contra la violencia machista

Aprender a cuidar y replantear lo que significa ser hombre en el campo bogotano

Los debates sobre la caída de la natalidad en Latinoamérica: entre la misoginia y el alarmismo