El juramento hipocrático de los científicos de datos

En su más que recomendable libro Armas de destrucción matemática. Cómo el ‘big data’ aumenta la desigualdad y amenaza la democracia, Cathy O’Neil expone los motivos que nos deben hacer temer la forma en que se usan los algoritmos. La matemática y activista subraya que los modelos no son malos per sé: detrás de cada uno de ellos hay uno o varios autores que, de forma más o menos premeditadas, habrán desarrollado un algoritmo que pueda castigar a las personas.

“Los algoritmos no son más que opiniones encerradas en matemáticas”, escribe la autora. Y lo demuestra revisando cómo se están empleando los algoritmos en la actualidad en campos tan diversos como la universidad (estimando las probabilidades de que los futuros alumnos puedan pagar la matrícula), en la publicidad (excluyendo a los usuarios con menos ingresos de anuncios de productos que quizás les puedan interesar pero que probablemente no puedan pagar) o en banca (calculando la solvencia de las personas para ofrecerles un tipo de interés nivelado a su nivel estimado de riesgo).

Más información

En realidad, ¿qué [...] es exactamente un algoritmo?

Los algoritmos tienen prejuicios: ellos son informáticos y ellas, amas de casa

Hacia el final del libro, O’Neil habla de un juramento hipocrático que deberían suscribir todos los programadores de este tipo de modelos. Lo toma prestado del que redactaron en 2008, tras la crisis financiera, los ingenieros Emanuel Derman y Paul Wilmott.

Dice así:

• Recordaré que no he creado el mundo, y que este no satisface mis ecuaciones
• Aunque emplee audazmente modelos para estimar valor, no me dejaré impresionar excesivamente por las matemáticas
• Nunca sacrificaré la realidad por elegancia sin explicar por qué lo he hecho
• Tampoco proporcionaré a quienes usen mis modelos una falsa sensación de seguridad sobre su precisión, sino que haré explícitos supuestos y omisiones
• Reconozco que mi trabajo puede tener enormes efectos sobre la sociedad y la economía, muchos de ellos más allá de mi comprensión

“Se trata de una buena base filosófica”, dice O’Neil, “pero la autorregulación y unos valores sólidos solo contendrán a los escrupulosos”, advierte.