Page 31 - Perez

grupos. Pueden menoscabar el derecho a la dignidad y la no discriminación y los
valores de igualdad y justicia. Dichos sistemas de IA evalúan o clasifican la fiabilidad
de las personas físicas en función de su comportamiento social en múltiples contextos
o de características personales o de su personalidad conocidas o predichas. La
calificación social resultante de dichos sistemas de IA puede dar lugar a un trato
perjudicial o desfavorable de personas físicas o colectivos enteros en contextos
sociales que no guardan relación con el contexto donde se generaron o recabaron los
datos originalmente, o a un trato perjudicial desproporcionado o injustificado en
relación con la gravedad de su comportamiento social. Por lo tanto, dichos sistemas de
IA deben prohibirse.
(18) Se considera que el uso de sistemas de IA para la identificación biométrica remota «en
tiempo real» de personas físicas en espacios de acceso público con fines de aplicación
de la ley invade especialmente los derechos y las libertades de las personas afectadas,
en la medida en que puede afectar a la vida privada de una gran parte de la población,
provocar la sensación de estar bajo una vigilancia constante y disuadir indirectamente
a los ciudadanos de ejercer su libertad de reunión y otros derechos fundamentales.
Además, la inmediatez de las consecuencias y las escasas oportunidades para realizar
comprobaciones o correcciones adicionales en relación con el uso de sistemas que
operan «en tiempo real» acrecientan el riesgo para los derechos y las libertades de las
personas afectadas por las actividades de aplicación de la ley.
(19) En consecuencia, debe prohibirse el uso de dichos sistemas con fines de aplicación de
la ley, salvo en tres situaciones enumeradas de manera limitativa y definidas con
precisión en las que su utilización es estrictamente necesaria para lograr un interés
público esencial cuya importancia es superior a los riesgos. Estas situaciones son la
búsqueda de posibles víctimas de un delito, incluidos menores desaparecidos;
determinadas amenazas para la vida o la seguridad física de las personas físicas o
amenazas de atentado terrorista; y la detección, la localización, la identificación o el
enjuiciamiento de los autores o sospechosos de los delitos mencionados en la Decisión
38
Marco 2002/584/JAI del Consejo , si la normativa del Estado miembro implicado
señala una pena o una medida de seguridad privativas de libertad cuya duración
máxima sea de al menos de tres años, tal como se definan en el Derecho de dicho
Estado miembro. Fijar ese umbral para la pena o la medida de seguridad privativas de
libertad con arreglo al Derecho nacional contribuye a garantizar que el delito sea lo
suficientemente grave como para llegar a justificar el uso de sistemas de identificación
biométrica remota «en tiempo real». Por otro lado, en la práctica, algunos de los treinta
y dos delitos enumerados en la Decisión Marco 2002/584/JAI del Consejo son
probablemente más relevantes que otros en el sentido de que, previsiblemente, recurrir
a la identificación biométrica remota «en tiempo real» se considerará necesario y
proporcionado en grados muy distintos para llevar a cabo la detección, la localización,
la identificación o el enjuiciamiento de los autores o sospechosos de tales delitos,
como también habrá enormes diferencias en la gravedad, la probabilidad y la magnitud
de los perjuicios o las posibles consecuencias negativas que se deriven de ellos.

(20) Para velar por que dichos sistemas se utilicen de manera responsable y proporcionada,
también es importante establecer que, en esas tres situaciones enumeradas de manera
limitativa y definidas con precisión, deben tenerse en cuenta determinados elementos,
en particular en lo que se refiere a la naturaleza de la situación que dé lugar a la

38 Decisión Marco 2002/584/JAI del Consejo, de 13 de junio de 2002, relativa a la orden de detención
europea y a los procedimientos de entrega entre Estados miembros (DO L 190 de 18.7.2002, p. 1).

ES 25 ES