Europa: Las tecnologías de automatización y el futuro de la Fortaleza

En octubre de 2018, la Unión Europea (UE) anunció la financiación de un nuevo sistema automatizado de control de fronteras que se probaría en Hungría, Grecia y Letonia. El proyecto, denominado iBorderCtrl, utiliza un sistema de detección de mentiras con inteligencia artificial (IA) cuyo interfaz es un guardia de fronteras virtual que examina a los viajeros al cruzar la frontera. Si el sistema considera que el viajero ha contestado sinceramente a las preguntas planteadas, le proporciona un código que le permite cruzar la frontera, mientras que si no supera esta primera etapa lo transfiere a guardias de frontera reales, que completarán el interrogatorio.

iBorderCtrl es uno de los muchos proyectos que tratan de aplicar la automatización a las fronteras de la UE con el objetivo de combatir la migración irregular. Esta nueva tendencia en el seno de Europa plantea una serie de graves preocupaciones de derechos humanos.

La tecnología de iBorderCtrl se basa en la “ciencia de la detección de las emociones” una disciplina muy controvertida. que afirma poder descubrir la verdad sobre la personalidad y las emociones de una persona a través del análisis de sus rasgos faciales. Sus defensores argumentan que las emociones son “fijas y universales, idénticas en todos los individuos y claramente visibles en mecanismos biológicos observables, independientemente del contexto cultural”. Según afirman, el estudio de los rostros “genera una lectura objetiva del auténtico estado interno”.

iBorderCtrl se basa en esta lógica según la cual un sistema de reconocimiento facial con inteligencia artificial dotado de un interfaz de agentes de fronteras creado mediante animación digital puede interpretar los sentimientos de la gente.

Sin embargo, como ya se ha demostrado reiteradamente, los sistemas de reconocimiento facial con inteligencia artificial tienen un sesgo inherente, y los prejuicios se reflejan en los datos que se utilizan para entrenarlos. Según el proyecto, se reduce “el control subjetivo y la carga de trabajo de los agentes humanos y aumenta el control objetivo mediante la automatización”, pero esta afirmación es, sin duda, engañosa. Además, las investigaciones han demostrado de forma generalizada que el reconocimiento de emociones no resiste un examen riguroso y que se está aplicando con una peligrosa irresponsabilidad. El caso de iBorderCtrl es un buen ejemplo.

Si bien el proyecto subraya que cuando se deniega la entrada siempre interviene un “guardia de fronteras humano” y que en tales casos no se utilizarán nunca sólo las evaluaciones efectuadas mediante IA, en la práctica esto es algo imposible de garantizar. Como explica Evelien Brouwer, investigadora jefa del Centro de Derecho Migratorio y de Refugiados de Ámsterdam (Vrije Universiteit Amsterdam): “Teniendo en cuenta el elevado número de personas que viajan, la posible falta de personal adecuadamente entrenado y la realidad política que presiona en favor de unas políticas fronterizas restrictivas, los riesgos de que se tomen decisiones basadas en los resultados obtenidos por el sistema de IA son demasiado elevados. En la práctica, para la persona afectada, los supervisores de protección de datos y los tribunales será muy difícil comprobar si una denegación de entrada se basa en una decisión tomada de forma automatizada o no.”

La falta de transparencia en el desarrollo de la tecnología es igualmente preocupante a un nivel práctico, y recuerda al problema de la ‘caja negra’ que tan a menudo se achaca a la IA. Los agentes de fronteras tendrán que basarse en una tecnología que no entienden, y los viajeros tendrán que confiar en un sistema opaco con poca rendición de cuentas.

iBorderCtrl indica una tendencia más amplia en la UE de mejorar la capacidad de control fronterizo mediante el uso de tecnología, lo cual es muy importante. Durante décadas, la UE ha invertido en asegurar y militarizar sus fronteras para construir lo que se ha descrito como la 'Fortaleza Europa'. Aunque las inversiones en sistemas tradicionales de seguridad fronteriza aumentaron ante el crecimiento del número de personas que buscaban seguridad en Europa en 2015, como consecuencia del creciente interés en la IA y la inteligencia de datos (big data) han proliferado las denominadas soluciones de seguridad automatizada en fronteras inteligentes.

Así que estamos asistiendo al surgimiento del solucionismo tecnológico para el sistema de control de las fronteras de la UE, con el consiguiente aumento de las violaciones de derechos humanos. El número de proyectos que utilizan tecnologías automatizadas para el control fronterizo financiados por Horizon 2020, el mayor programa de Investigación e Innovación que ha tenido la UE, indica claramente esta tendencia.

Un ejemplo es ROBORDER, un proyecto que utiliza tecnologías que parecen una realidad muy distante en el tiempo. ROBORDER, que también está en fase piloto, está siendo probado en la isla griega de Cos y en la frontera entre Bulgaria y Serbia, entre otros lugares. El proyecto ofrece lo que denomina soluciones a dificultades que se presentan actualmente en las fronteras mediante “robots móviles no tripulados que incluyen vehículos aéreos, terrestres y acuáticos (tanto submarinos como de superficie), capaces de funcionar tanto aisladamente como en grupo, que incorporarán sensores multimodales integrados en una red interoperable.” Esto significa que las fronteras terrestres y marítimas de la UE estarían vigiladas por nubes de robots que alertarían a las autoridades de las actividades fronterizas recogiendo al mismo tiempo grandes volúmenes de datos para ofrecer una visión predictiva inmediata de cada situación.

La red de datos recopilados crea un sistema de seguridad predictivo que permite a las autoridades de seguridad fronteriza concentrar recursos en las áreas indicadas. Esta capacidad predictiva aumenta la seguridad y la vigilancia tanto en el presente como en el futuro, e incrementa infinitamente la capacidad de detección y seguimiento. En consecuencia, con un sistema como ROBORDER se corre el peligro de exacerbar las violaciones de derechos humanos que inflige la Fortaleza Europa.

El uso de sistemas autónomos no tripulados para la seguridad fronteriza también podría hacer que se equipara a los robots no sólo con sensores, sino también con medios letales. La campaña contra los robots asesinos (Campaign to Stop Killer Robots) contempla la posibilidad —totalmente realista— de que esto suceda. De hecho, ya se han propuesto robots letales a la UE para sistemas de seguridad de frontera. La empresa estatal búlgara Prono, informó por escrito a la Agencia Frontex sobre el desarrollo de un sistema de seguridad fronteriza con una “influencia letal controlable sobre los infractores que no requiere la supervisión constante de personal cualificado”. Teniendo en cuenta que las fronteras ya están muy militarizadas, el uso en ellas de sistemas de armas automatizados podría no ser una realidad tan lejana.

En definitiva, el despliegue de nuevas tecnologías tales como las que hemos analizado (y desde luego hay muchas más) para automatizar los sistemas de seguridad en las fronteras de la UE, plantea múltiples preocupaciones en el ámbito de los derechos humanos. Se ha hablado mucho de las consecuencias pasadas y presentes que ha tenido la Fortaleza Europa para los derechos humanos, pero es necesario abordar urgentemente las consecuencias futuras, favorecidas por unos cambios tecnológicos que están reformulando el panorama de la seguridad fronteriza de la UE. Considerando cuánto dolor y sufrimiento humano han causado las políticas fronterizas, y el enfoque de la UE respecto a la seguridad, cada vez más basado en el solucionismo tecnológico, sería una imprudencia no vigilar atentamente los nuevos avances tecnológicos que definen la Fortaleza Europa del mañana.

Este artículo se publicó originalmente en Euronews.