Los avances en visión artificial se centran en desarrollar las tecnologías de vigilancia masiva

La bola decisiva del último partido de tenis entre Sinner y Alcaraz. El enésimo fuera de juego que le pitan a cualquier rival del Barça de Hansi Flick. O la corrección automática de posturas para evitar lesiones como la que apartó a Carolina Marín del oro en los Juegos de París. Para todo esto ya se usa la visión por ordenador o computadora. Esta rama de la inteligencia artificial (IA) también está detrás de la identificación automática de amigos en las fotos, los coches autónomos y otras revoluciones incipientes, como la robótica avanzada o el descubrimiento de nuevas proteínas. Pero el objeto codiciado de la visión artificial (VA) somos los humanos: según un estudio publicado en Nature, la principal revista científica, la inmensa mayoría y de los estudios (papers, en la jerga) y las patentes derivadas se centran en las personas, en identificar sus distintas partes, lo que hacen y los entornos donde se mueven.

Investigadoras de varias universidades de Estados Unidos y Europa han recopilado miles de papers y también miles de patentes presentados o registradas desde 1990, cuando la investigación en visión artificial aún limitaba con la ciencia ficción. Entonces extraer información de una imagen o un vídeo era todo un reto para las máquinas. Aún lo sigue siendo, como demuestra el uso de CAPTCHA visuales para confirmar que somos humanos. Sin embargo, la VA ha ido avanzando tanto en capacidad de analizar datos como en habilidad para interpretarlos. Son muchos los campos en los que la visión artificial está ayudando a los humanos. Pero también tiene su reverso y es enorme.

Apoyadas en una treintena de palabras clave, algunas tan explícitas como vigilancia o reconocimiento facial y otras no tan evidentes, como iris o aeropuerto, las investigadoras analizaron 19.000 papers sobre VA presentados en una importante conferencia anual del sector que se celebra desde hace más de 30 años. Hicieron lo mismo con 23.000 patentes registradas derivadas de aquellos trabajos. Los primeros dan a conocer los avances logrados, las segundas los protegen para que solo sus autores puedan sacarle provecho.

Los resultados los resumen las autoras en su artículo de Nature: “Descubrimos que el 90% de los artículos y el 86% de las patentes derivadas extrajeron datos relacionados con seres humanos”. La mayoría de los trabajos, más de dos tercios, versaban sobre la obtención de información del cuerpo humano en su conjunto o de determinadas partes del mismo, en especial el rostro. Otra porción de los artículos y patentes (el 18% y el 16%, respectivamente) extraía datos sobre espacios humanos como el trabajo, el hogar o zonas de tránsito. Un porcentaje menor, pero nada despreciable, del 1% (5% para las patentes) entra en la categoría que las investigadoras llamaron “datos humanos socialmente relevantes” y que buscarían que las máquinas aprehendieran estados mentales, nivel económico, pertenencia cultural…

Al poner estos resultados en la línea del tiempo es cuando se detecta la emergencia de todo un ecosistema de tecnologías de vigilancia masiva y automatizada. En los primeros años de la década de 1990 solo han encontrado unos centenares de investigaciones y patentes derivadas en el ámbito de la VA y apenas la mitad estaban orientadas a analizar datos de humanos. Dos décadas más tarde, la producción anual de papers y patentes se había triplicado y ya el 78% se centraban en datos de humanos. Combinando el aumento absoluto de la investigación en visión de las máquinas y el relativo de los trabajos centrados en los humanos, la ciencia de la vigilancia VA se ha quintuplicado.

“Es difícil establecer una causa clara del aumento significativo de la producción de artículos y patentes relacionados con la vigilancia”, reconoce la investigadora del Trinity College de Dublín (Irlanda) y autora sénior de este estudio, Abeba Birhane, en un correo. Sin embargo, apunta algunos factores: “El avance técnico del propio campo de la visión artificial, la falta de una cultura crítica y socialmente consciente dentro del campo, las estructuras institucionales que premian la vigilancia o el pensamiento mágico en torno a la tecnología que presupone que las tecnologías de vigilancia son la solución a problemas políticos y culturales”. También menciona el gran aumento de la financiación por el interés invertido por parte de organismos poderosos que se benefician de la vigilancia, ya sea por poder, control o beneficio económico.

Otro de los datos que han desvelado las autoras es la concentración de la investigación en el campo de la VA. Por delante de todos los países, destaca Estados Unidos, que produce más investigación que todos demás combinados. A cierta distancia, pero muy por delante del tercer clasificado (Reino Unido) está China. No debería de extrañar. Por un lado, son las dos superpotencias tecnológicas, independientemente del objeto o uso de la tecnología de que se trate. Además, el carácter autoritario del régimen chino y la conexión entre la industria militar y de defensa estadounidense con la ciencia más puntera explicaría el resto. De hecho, dos de los actores más relevantes de la IA de última generación (no necesariamente relacionada con la visión artificial), Palantir y Anduril, colaboran con la seguridad nacional estadounidense. La primera ya desarrolla un sistema para el Gobierno de Trump con los inmigrantes en su objetivo. Y OpenAI, la creadora de ChatGPT, firmó recientemente un acuerdo con el Departamento de Defensa también de Estados Unidos.

En un comentario también publicado en Nature, el investigador de la Universidad Monash (Australia), Jathan Sadowski, que no ha participado en este estudio, se detiene un resultado del mismo. Los autores analizaron la evolución del lenguaje usado en los papers y patentes, detectando una tendencia a ocultar su finalidad con palabras cada vez más neutras o eliminándolas sin más. Por ejemplo, la referencia a los humanos cada vez aparece con menor frecuencia aunque sean el sujeto de los estudios y son sustituidos por términos como objetos.

“Referirse a los humanos como objetos podría considerarse como una simple abreviatura de ingeniería”, escribe Sadowski. Encajaría en una tendencia más general del lenguaje tecnológico. Pero para este científico, estas prácticas de deshumanización no pueden ignorarse a la ligera: “Estas tecnologías se crean en un panorama político y económico en el que los intereses de grandes corporaciones e instituciones militares y policiales tienen una enorme influencia en el diseño y el uso de los sistemas de IA”.