Fronteras ‘inteligentes’, democracias negligentes

La ciudad china de Chongqing tenía en 2019 unos 15 millones de habitantes y 2,6 millones de cámaras: una por cada seis personas. Desde entonces hasta ahora, esa proporción podría haberse disparado hasta las dos cámaras por persona. Apoyado en tecnologías de identificación biométrica, este despliegue forma parte del denominado Proyecto Skynet, un monumental ejercicio de vigilancia pública que permite a las autoridades prevenir y controlar cualquier posible amenaza a la seguridad nacional, incluyendo, claro está, la desafección política. El control de movimientos y las bases de datos biológicas son una rutina para una población acostumbrada a que los delitos no se prueban, sino que se intuyen.

La China de Xi Jinping podría parecernos una distopía lejana, pero eso es solo porque no estamos prestando atención. A menos de una hora de Madrid, en las fronteras de la UE, nuestros democráticos Estados aplican a los migrantes la misma combinación letal de algoritmos, prejuicios y presupuestos milmillonarios que triunfa en la dictadura asiática. El proyecto iBorderCtrl, por ejemplo, fue desarrollado entre 2016 y 2019 para analizar microexpresiones faciales que evalúen la veracidad de quienes pretenden acceder al territorio europeo. El programa —ensayado en Hungría, Grecia y Letonia— fue ferozmente criticado por centros académicos y organizaciones de derechos humanos, que denuncian la ausencia de base científica y la institucionalización de la desconfianza y el prejuicio. En palabras de la ONG Amnistía Internacional, “estas tecnologías están reforzando la exclusión y bloqueando el movimiento de migrantes negros, musulmanes y de otras razas, solicitantes de asilo y refugiados”.

La Comisión Europea discrepa. Para los arquitectos de la política migratoria comunitaria, iBorderCtrl ha sido un éxito rotundo y un modelo para el futuro. La prueba es la proliferación de experimentos de vigilancia financiados con los mismos fondos europeos. Los inagotables recursos financieros de las instituciones comunitarias y nacionales han permitido al conglomerado industrial de la defensa y la tecnología establecer la tercera generación del control migratorio: tras las barreras físicas y la subcontratación de países de origen y tránsito, Europa ha inaugurado la era de las fronteras inteligentes. La gestión de la movilidad humana se fundamenta hoy en complejos modelos de detección, seguimiento y cribado de poblaciones en movimiento que depositan una parte creciente de las decisiones en manos de una máquina. Los algoritmos clasifican en función del riesgo, y el riesgo se define a partir de los datos: lugar de nacimiento, trayecto, nacionalidad, idioma, comportamiento o, simplemente, la actitud del migrante prospectivo. La seguridad personal y los derechos fundamentales, reducidos a una función matemática.

La cartografía de las fronteras inteligentes abarca todo el proceso migratorio, desde las regiones de origen al centro de acogida más remoto de los países de destino. Ninguna herramienta está descartada: análisis predictivo de perfiles en ruta; sistemas autónomos de vigilancia fronteriza; recopilación compartida de información biométrica; aplicaciones de perfilación de viajeros deseados y no deseados; modelos algorítmicos de decisión; análisis automatizados de credibilidad, o software espía. El sistema cabalga sobre un proceso exponencial de innovación tecnológica y en colaboración con socios cuestionables como la industria militar de Israel. Sus empresas facilitan, por ejemplo, el programa Cellebrite, que se utiliza para extraer la información de los móviles de migrantes sin su consentimiento.

Según esta lógica, los desembolsos millonarios y la asociación con malhechores tienen plena justificación. La tecnología, nos dicen, aportará eficiencia y objetividad donde la capacidad humana está limitada y sesgada. Lamentablemente, la promesa de neutralidad también ha resultado ser una quimera, porque las máquinas aprenden de los datos, pero los datos nunca son inocentes. Heredan las injusticias, los miedos y los sesgos de las sociedades que los producen. En lo migratorio, los algoritmos beben de un modelo diseñado para reconocer amenazas antes que personas, y para disuadir antes que comprender. De ahí surgen sistemas que clasifican a los solicitantes de asilo según variables opacas; herramientas de análisis predictivo que asignan alertas a determinados perfiles o nacionalidades, y tecnologías biométricas que reducen la identidad humana a un conjunto de rasgos faciales. No hay neutralidad posible cuando el punto de partida es la desconfianza.

En otros aspectos fundamentales, nada ha cambiado. Las fronteras inteligentes esconden el mismo negocio opaco, concentrado e ideológicamente tuerto que ha caracterizado la industria del control migratorio en el pasado. Tomen el ejemplo de España. Según una investigación de porCausa, el Centre Delàs y el diario Ara, las administraciones han adjudicado en los últimos siete años no menos de 700 contratos públicos relacionados con este control tecnológico. Casi la mitad de los 541 millones de euros gastados en estos contratos fue negociada en procedimientos con competencia limitada o sin concurso público. Y 10 compañías —en una lista encabezada por las empresas Escribano, Telefónica y Thales— concentran el 73% de los recursos gastados. En políticas de frontera, la innovación española es tan aparente como su opacidad.

A donde no ha llegado la robotización de la gestión migratoria es al campo de la protección de derechos. Ningún algoritmo ha logrado desbloquear el colosal atasco de las solicitudes de asilo, que mantiene en el limbo a centenares de miles de personas en Alemania, España o Italia. Esta situación se produce porque el dilema no es tecnológico, sino político. Condicionado por un debate público radioactivo como el migratorio, el laboratorio de innovación de la inteligencia artificial (IA) privilegia la seguridad sobre la protección, el control sobre la acogida y la sospecha sobre el derecho.

Sería ingenuo pensar que el problema termina donde acaba la frontera. La tiranía tecnológica que hoy padecen los migrantes es el caballo de Troya de un modelo que llegará a otros colectivos considerados una amenaza para el consenso de la seguridad. Y ese es un grupo pavorosamente volátil. Prueben a compartir el contenido de sus redes sociales con la máquina que decide qué turistas acceden a Estados Unidos, como solicita su autoridad de fronteras. O pregúntense por qué su Gobierno ha fiado nuestros datos biométricos a compañías privadas del sector de la seguridad.

Por eso, es fundamental que los avances tecnológicos se sometan al control de normas e instituciones democráticas. Ordenar la frontera exige imponer transparencia, garantizar control humano, establecer auditorías independientes y devolver la decisión al ámbito político. La tecnología puede servir a la democracia solo si la democracia conserva la capacidad de decir no y cómo. Este ha sido el principio que ha inspirado modelos de transparencia algorítmica como el de Nueva Zelanda. En la propia UE, el Reglamento sobre IA aprobado en 2024 identifica la gestión de fronteras como un sector de alto riesgo y exige a los proveedores documentar los datos de entrenamiento, generar versiones explicables y someter sus sistemas a pruebas de impacto en derechos humanos.

No se trata de renunciar a la tecnología, sino de gobernarla. Como señalaba en una conversación reciente el asistente de IA entrenado para apoyar en la elaboración del informe de porCausa, “la decisión de conceder asilo, de proteger o no a alguien, no pertenece al dominio de lo computable. Es un acto humano precisamente porque implica empatía, memoria, interpretación del contexto y una deliberación moral que no puede reducirse a patrones”. Esta es, en última instancia, la línea que separa la democracia de su simulacro algorítmico. Es lamentable que una máquina lo tenga más claro que muchas personas.