Reino Unido: El uso sin control de tecnología y sistemas de inteligencia artificial por parte del gobierno genera exclusión de las personas con discapacidad y de otros grupos marginados

Las personas con discapacidad, las que viven en la pobreza o las que tienen problemas graves de salud se quedan en un limbo burocrático debido a la exclusión digital causada por la implantación sin control de tecnologías por parte del Ministerio de Trabajo y Pensiones; así lo ha afirmado hoy Amnistía Internacional en un nuevo informe.

El informe “Too Much Technology, Not Enough Empathy” revela cómo el constante ensayo, implantación y retirada por parte del Ministerio de Trabajo y Pensiones de costosas tecnologías digitales y de inteligencia artificial (IA) para el Crédito Universal, la Prestación de Independencia Personal y otros regímenes de seguridad social han creado un sistema de seguridad social inaccesible para la mayoría de las personas que ya sufren marginación o están en riesgo de pobreza en Reino Unido.

Muchas personas que necesitan seguridad social no tienen acceso a tecnologías digitales, Internet ni dispositivos conectados a la red. Su inasequibilidad sumada a las barreras lingüísticas y a los largos tiempos de espera de los servicios telefónicos han generado exclusión digital de los sistemas del Ministerio de Trabajo y Pensiones.

“La misión del Ministerio de Trabajo y Pensiones de reducir los ‘costes’ es el elemento central de la fascinación por tecnologías problemáticas y del recurso desproporcionado a ellas. Los recortes en la seguridad social han provocado que haya personas con dificultades para llegar a fin de mes y llevar comida a la mesa y, aun así, el Ministerio de Trabajo y Pensiones está más centrado en utilizar las tecnologías experimentales para vigilar a quienes solicitan prestaciones”, ha declarado Imogen Richmond-Bishop, investigadora de Tecnología y Derechos Económicos, Sociales y Culturales.

“El sistema facilitado por la tecnología para pedir y gestionar prestaciones sociales está provocando una deshumanización y presión implacables en personas que ya tienen enormes dificultades para cubrir sus necesidades básicas en un sistema fallido.”

Esta investigación es una ampliación del informe publicado en 2025 por Amnistía Internacional titulado “Social Insecurity: The devastating human rights impact of social security system failures in the UK”, que describe detalladamente por qué el sistema de seguridad social de Reino Unido requiere una reforma integral que lo devuelva a la senda del cumplimiento de los derechos humanos y garantice un nivel de vida digno. Las dificultades para acceder a prestaciones de seguridad social adecuadas para prevenir la pobreza son interseccionales y complejas, y la tecnología es uno de los elementos que conforman el ecosistema más amplio de apoyo social.

El sistema facilitado por la tecnología para pedir y gestionar prestaciones sociales está provocando una deshumanización y presión implacables en personas que ya tienen enormes dificultades para cubrir sus necesidades básicas en un sistema fallido.

Imogen Richmond-Bishop, investigadora de Tecnología y Derechos Económicos, Sociales y Culturales

Ambas investigaciones extrajeron sus conclusiones de cuestionarios, entrevistas con grupos-muestra de personas beneficiarias prestaciones y asesores de la seguridad social, y se basan en trabajos previos realizados por la sociedad civil. En total se registraron las opiniones de 782 personas a través de este proceso que se llevó a cabo desde octubre de 2024 hasta enero de 2025.

La tormenta perfecta: deficiencias preexistentes y problemas nuevos 

El uso de tecnologías digitales combinadas con más recortes en el sistema de seguridad social tras años de austeridad ha creado una tormenta perfecta en la que las deficiencias preexistentes se están viendo exacerbadas y se están generando nuevos problemas relacionados con estas nuevas tecnologías.

Los sistemas automatizados y el uso de IA en la evaluación y la provisión de las prestaciones de seguridad social pueden introducir un riesgo significativo de errores en la toma de decisiones, debido a la utilización de algoritmos sesgados o discriminatorios, lo cual tiene graves consecuencias para las personas solicitan prestaciones.

Hay factores complejos —como las condiciones de vida, el nivel educativo, el estado de salud y los niveles de ingresos— que los sistemas automatizados de la seguridad social no siempre tienen plenamente en cuenta y que pueden generar exclusión.

Para una de las personas solicitantes entrevistadas por Amnistía Internacional, tanto el género como el nivel socioeconómico constituyen obstáculos para el acceso a servicios por Internet.

“Ya sabes, tener algo de compasión, que los formularios sean más accesibles, y facilitar las cosas. Soy bastante ignorante. Muchas mujeres y hombres de mi edad no saben cómo usarlos […]. Se hartan. Me envían cartas al teléfono. No puedo abrirlas. Así que llamo. No puedo abrirla. No tengo un iPad. No me puedo comprar un iPad, ¿sabes?”, contó la solicitante a Amnistía Internacional.

Repercusiones para los derechos humanos 

La digitalización y la recopilación de datos generalizada también ha creado un sistema de seguridad social que todo lo ve y que tiene un impacto en el derecho de las personas solicitantes a la privacidad, a la protección de datos y a la dignidad humana.

La utilización de enormes cantidades de datos para determinar el cumplimiento de requisitos para recibir ayudas del Estado no es algo nuevo. Lo que sí es nuevo es la escala y la amplitud de los datos empleados y la velocidad con que se procesan, y esto puede tener nuevas consecuencias no deseadas y acarrear peligros para los derechos humanos.

“Los experimentos del Ministerio de Trabajo y Pensiones con sistemas tecnológicos han puesto en peligro los derechos humanos y han reducido a las personas necesitadas a datos. El éxito de una solicitud puede depender de si encaja perfectamente en una casilla o de si se cumplen determinados criterios en vez de si realmente se necesita ayuda. En este caso, la tecnología ha simplificado en exceso las realidades complejas de la gente y subestima sus necesidades, sobre todo cuando no pueden conseguir la ayuda que necesitan a través de un trabajador social humano”, ha sostenido Imogen Richmond-Bishop.

Amnistía Internacional escribió al Ministerio de Trabajo y Pensiones antes la publicación del informe y le proporcionó un amplio resumen de las conclusiones y la metodología de la investigación. El Ministerio de Trabajo y Pensiones declinó comentar el fondo del informe en ese momento de la publicación.

Las autoridades de Reino Unido deben llevar a cabo una revisión independiente e imparcial del sistema de seguridad social, así como de los sistemas digitales utilizados por el Ministerio de Trabajo y Pensiones, y descartar cualquier sistema que vulnere derechos humanos. Necesitamos leyes que regulen la IA para garantizar que ésta no contribuya a violaciones de derechos humanos. Los sistemas digitales deben ser transparentes, deben poder explicarse y jamás pueden ser obligatorios.

Información complementaria 

En mayo de 2025, el informe de Amnistía Internacional “Social Insecurity” reveló cómo los recortes, las sanciones y las deficiencias sistémicas del sistema de seguridad social de Reino Unido están agudizando la pobreza de la gente.

Amnistía Internacional también ha realizado investigaciones sobre la automatización y la digitalización del sector público en Dinamarca, Países Bajos, India y Serbia, y ha respaldado trabajos llevados a cabo en Francia y Suecia sobre los riesgos y repercusiones para los derechos humanos de la toma de decisiones algorítmica en dichas jurisdicciones.