Unión Europea: La prohibición del uso más perjudicial de la IA da un paso más

Ante la votación por el Parlamento Europeo de la forma en que deberían regirse los sistemas de inteligencia artificial en aplicación de la Ley de Inteligencia Artificial de la UE (Ley IA), Mher Hakobyan, asesor de Amnistía Internacional para el trabajo de incidencia, ha declarado:

“Hoy el Parlamento Europeo ha transmitido el firme mensaje de que los derechos humanos han de estar en primera línea de esta histórica legislación al votar a favor de la prohibición de varias prácticas basadas en la IA que son incompatibles con estos derechos.

Hoy el Parlamento Europeo ha transmitido el firme mensaje de que los derechos humanos han de estar en primera línea de esta histórica legislación.

Mher Hakobyan, Amnistía Internacional

“La prohibición de los sistemas de identificación biométrica remotos en directo es un importante paso adelante. Aunque el texto no ilegaliza la vigilancia masiva restrospectiva, sí limita su uso únicamente a las fuerzas del orden y dentro de unos estrictos límites legales. El proyecto de ley prohíbe también varios usos perjudiciales de los sistemas de IA que discriminan a las comunidades marginadas, como las tecnologías que afirman “predecir” delitos, los sistemas de puntuación social (social scoring) que impiden a ciertas personas el acceso a servicios públicos y privados esenciales, y las tecnologías de reconocimiento de emociones utilizadas por agentes encargados de aplicar la ley y de fronteras para “identificar” a personas sospechosas.

“Aunque el proyecto de ley podría limitar las exportaciones desde la Unión Europea de sistemas de IA considerados un riesgo inaceptable para los derechos humanos, permitiría que los proveedores eludieran la ley si sus tecnologías de alto riesgo permitidas se desarrollan únicamente para la exportación, lo que podría convertir a la UE en cómplice de abusos contra los derechos humanos fuera de sus fronteras. La Ley de IA tampoco prohíbe los sistemas de elaboración de perfiles que señalan a personas en movimiento como “riesgo” ni los sistemas de pronóstico empleados para interceptar, restringir e impedir la migración a pesar de los llamamientos de Amnistía Internacional y de otros miembros de la sociedad civil en favor de su prohibición.

“Resulta preocupante que el proyecto legislativo permita que los proveedores de sistemas de IA utilizados para la aplicación de la ley, la gestión de la migración, la provisión de prestaciones sociales y otras áreas de gran interés eludan la Ley de IA al concederles la facultad de decidir si sus sistemas representan un riesgo elevado para los derechos humanos. Esto podría convertir la Ley en un mero “documento orientativo” para IA de alto riesgo en lugar de ser una normativa efectiva.

“Amnistía Internacional insta a la UE a que cumpla sus compromisos contraídos en virtud del derecho internacional. La UE debe garantizar una transparencia y rendición de cuentas significativas en relación al uso y la exportación de sistemas de IA, los tipos de impacto que tienen éstos en los derechos humanos, y empoderar a las personas afectadas garantizando su igualdad de acceso a las tecnologías y el derecho a interponer recursos y obtener reparación en caso de sufrir perjuicios”.

Información complementaria

La Comisión Europea propuso una ley sobre el uso de la inteligencia artificial el 21 de abril de 2021. El Consejo de la UE, que representa a los gobiernos nacionales de la Unión, adoptó su posición en diciembre de 2022. El Parlamento Europeo se propone finalizar su posición en junio del año en curso, después de lo cual, las tres instituciones tendrán que acordar un texto común para el Reglamento.

Amnistía Internacional, como parte de una coalición de organizaciones de la sociedad civil encabezada por la Red Europea de Derechos Digitales (EDRi), pide una regulación de las tecnologías y prácticas de IA en la UE acorde con los derechos humanos.