La IA, una máquina que también aprende prejuicios (y los difunde)
Cada cultura del mundo arrastra sus propios estereotipos: algunos son universales, como asociar el rosa a las niñas; otros, más locales, como la supuesta picardía de los habitantes de Río de Janeiro. Con la llegada de los chatbots de inteligencia artificial, estos prejuicios, lejos de desaparecer, están cruzando fronteras como nunca antes.
Y esto no ocurre por casualidad: los modelos de lenguaje con los que se entrenan estas inteligencias artificiales se alimentan de lo que hay en internet… y eso incluye también clichés y estigmas.
¿Por qué lo sabemos? Por un estudio que ha demostrado que los modelos actuales de IA no solo replican estereotipos conocidos, sino que también los amplifican, exportándolos a culturas que ni siquiera los comparten.
- Además, la IA reproduce estos sesgos culturales con una visión muy anglocéntrica, ignorando los matices de otras lenguas y contextos.
- Y cuando se trata de culturas o idiomas poco representados en el entrenamiento, falla aún más. De hecho, a veces inventa explicaciones pseudocientíficas para justificar los prejuicios.
©Foto: Getty Images