Se suele alegar que los sistemas de perfilado de riesgos son un método por el que los Estados pueden optimizar servicios, mejorar la rentabilidad, prevenir la delincuencia —incluido el fraude— y controlar la migración

“El uso generalizado por las autoridades de sistemas de perfilado de riesgos en la aplicación de la ley, la seguridad social y la migración es incompatible con el derecho internacional de los derechos humanos y debe ser prohibido”, afirma Amnistía Internacional en un nuevo informe.

El perfilado de riesgos es la valoración de la probabilidad de que una persona o grupo infrinja una ley o una norma. Los gobiernos la usan para identificar potenciales infractores antes de que hayan cometido ninguna infracción. Estas valoraciones están cada vez más automatizadas y se basan en técnicas de inteligencia artificial y, en muchos casos, han desembocado en violaciones de derechos humanos. Esta es la primera vez que se evalúa exhaustivamente el perfilado de riesgos a la luz de las normas internacionales de derechos humanos.

Este informe muestra cómo los sistemas de perfilado de riesgos afectan a los derechos de las personas y ofrece argumentos científicos y legales que pueden esgrimir quienes defienden los derechos humanos, personal de la administración pública, autoridades de supervisión, profesionales de la abogacía y miembros de la judicatura para impugnar su uso por los Estados y otras entidades.

Alexander Laufer, investigador sobre tecnología y derechos humanos de Amnistía Internacional Países Bajos

Estos sistemas se vienen utilizando, por ejemplo, en investigaciones sobre fraudes en prestaciones sociales en Dinamarca, el sistema de solicitud del permiso de residencia de Francia, el sistema de detección de fraudes en las prestaciones sociales de Países Bajos y el sistema automatizado de cobro de deudas de Australia.

Se suele alegar que los sistemas de perfilado de riesgos son un método por el que los Estados pueden optimizar servicios, mejorar la rentabilidad, prevenir la delincuencia —incluido el fraude— y controlar la migración. Estas afirmaciones, basadas en la premisa de la escasez de recursos, han sido desmentidas como justificación política porque carecen de base empírica y son supuestos políticamente útiles que convierten la pobreza y otras cuestiones sociales, que son problemas políticos, en un problema de “eficiencia” que se resuelve mediante el racionamiento y la vigilancia automatizados.

Convertirse en objetivo del perfilado de riesgos en contextos de gran relevancia como la aplicación de la ley, la seguridad social y la inmigración causa perjuicios graves. Las personas sufren angustia psicológica, estigmatización y acusaciones falsas de delitos, lo que podría desembocar en el sinhogarismo, la deportación, la denegación injusta de prestaciones sociales o incluso la cárcel.

Discriminación y repercusiones interseccionales

El informe también pone de relieve efectos estructurales e interseccionales del uso discriminatorio del perfilado de riesgos que a menudo se pasan por alto a pesar de que los gobiernos lo promueven como una herramienta objetiva. Esta tecnología viola el derecho a la igualdad y a la no discriminación, y desemboca en la discriminación basada en la raza y la etnia, el género, el estatus socioeconómico y la discapacidad.

Los grupos marginados son los más afectados. Las personas racializadas, las musulmanas, las personas en movimiento, las que tienen alguna discapacidad o enfermedad crónica, y las de bajos ingresos tienen más probabilidades de ser etiquetadas de “sospechosas”, sometidas a vigilancia constante y, en última instancia, sufrir decisiones perjudiciales.

“La ausencia generalizada de transparencia, que deja a la gente indefensa y sin capacidad para cuestionar estos sistemas y decisiones que afectan a sus derechos, agrava la situación.” Además, se pone en peligro otros derechos humanos, como los relativos a un juicio conforme a las normas internacionales, la presunción de inocencia, la privacidad y la protección de datos, la seguridad social y un nivel de vida adecuado, y la realización plena de la dignidad humana.

Alexander Laufer

Estos efectos discriminatorios van más allá de los prejuicios y de los derechos individuales. Aunque la reducción de la delincuencia o el fraude puede ser una razón legítima para el uso de estos sistemas, éstos podrían ser empleados de forma abusiva para ofrecer cobertura a la vigilancia invasiva de toda la comunidad y propiciar daños desproporcionados para los derechos humanos.

“La forma en que se utilizan estas herramientas puede ser resultado de estereotipos y prejuicios preexistentes sobre grupos marginados a los que se considera intrínsecamente delictivos o peligrosos. Se transforma a personas o grupos que son sospechosos estadísticos, hipotéticos, en sospechosos reales, lo que solidifica prejuicios preexistentes o genera otros nuevos. Esto es consecuencia de la discriminación sistémica existente”, dijo Alexander Laufer.

Dudas sobre la eficacia

Amnistía también concluyó que muchos procesos gubernamentales para crear sistemas de perfilado de riesgos carecen de métodos científicos rigurosos que impidan la producción de resultados engañosos o su interpretación errónea. Los gobiernos suelen calificar el perfilado de riesgos como una forma rentable de combatir la delincuencia, el fraude a la seguridad social y la migración irregular, pero hay pocas evidencias científicas que validen estas afirmaciones. Por el contrario, las investigaciones muestran que estas herramientas son científicamente dudosas y sistemáticamente imprecisas.

Las investigaciones indican que predecir si una persona va a cometer un delito o un fraude a la seguridad social es una empresa científicamente complicada. No existen y nunca existirán los datos necesarios para desempeñar la tarea con suficiente calidad y exactitud. Por ejemplo, conductas complejas como la delincuencia o el fraude a la seguridad social son sumamente difíciles de medir, predecir y verificar. Por tanto, para predecirlas es necesario recurrir a indicadores poco fiables y sesgados, como el uso de una nueva detención para predecir la repetición de la infracción o errores involuntarios en la seguridad social en lugar de declaraciones fraudulentas, lo que pone en peligro a las comunidades racializadas y marginadas.

Por tanto, la validez científica de los modelos de perfilado de riesgos es fundamentalmente endeble, lo que puede causar perjuicios graves a las personas que son sometidas a ellos. Esto, a su vez, hace difícil de justificar el perfilado de riesgos.

Los intentos de predecir el fraude o la delincuencia suelen equivaler a convertir automáticamente a las comunidades y personas marginadas en sospechosas y no a una toma de decisiones basada en evidencias científicas.

Alexander Laufer

“Es imposible diseñar un algoritmo de perfilado de riesgos que sea objetivo o neutral. Los datos sobre personas nunca son objetivos. Cuando los gobiernos usan datos sociales del pasado para predecir quién va a cometer un delito como el fraude, se dirigen inevitablemente contra personas que pertenecen a grupos históricamente oprimidos o marginados y, así, reproducen y agravan injusticias del pasado. No hay una forma técnica de resolver problemas sociales”.

Amnistía Internacional y otras entidades y personas han documentado estudios de casos que demuestran que los sistemas de perfilado de riesgos asocian desproporcionadamente personas que experimentan una o más formas de discriminación o marginación a un riesgo económico o delictivo más alto.

Prohibición del perfilado de riesgos

Debe prohibirse el perfilado de riesgos en materia de migración, detección de fraudes a la seguridad social y control de la delincuencia. Los sistemas predictivos de perfilado y evaluación de riesgos, estén basados en datos o en normas, deben prohibirse en contextos de gran importancia incluso cuando sean seres humanos quienes tomen las decisiones finales. Los Estados deben asimismo promulgar leyes o reformar las leyes vigentes para implementar esta prohibición. Hasta que exista este tipo de leyes, las autoridades no deben usar estos sistemas y deben detener su desarrollo, producción y venta.