Page 58 - Perez

Artículo 7
Modificaciones del anexo III
1. Se otorgan a la Comisión los poderes para adoptar actos delegados de conformidad
con el artículo 73 al objeto de modificar la lista del anexo III mediante la adición de
sistemas de IA de alto riesgo cuando se reúnan las dos condiciones siguientes:
a) los sistemas de IA estén destinados a utilizarse en cualquiera de los ámbitos
que figuran en los puntos 1 a 8 del anexo III; y
b) los sistemas de IA conlleven el riesgo de causar un perjuicio a la salud y la
seguridad, o el riesgo de tener repercusiones negativas para los derechos
fundamentales, cuya gravedad y probabilidad sean equivalentes o mayores a
las de los riesgos de perjuicio o de repercusiones negativas asociados a los
sistemas de IA de alto riesgo que ya se mencionan en el anexo III.

2. Cuando, a los efectos del apartado 1, se evalúe si un sistema de IA conlleva el riesgo
de causar un perjuicio a la salud y la seguridad o el riesgo de tener repercusiones
negativas para los derechos fundamentales que sea equivalente o mayor a los riesgos
de perjuicio asociados a los sistemas de IA de alto riesgo que ya se mencionan en el
anexo III, la Comisión tendrá en cuenta los criterios siguientes:
a) la finalidad prevista del sistema de IA;

b) la medida en que se haya utilizado o sea probable que se utilice un sistema de
IA;

c) la medida en que la utilización de un sistema de IA ya haya causado un
perjuicio a la salud y la seguridad, haya tenido repercusiones negativas para los
derechos fundamentales o haya dado lugar a problemas importantes en relación
con la materialización de dicho perjuicio o dichas repercusiones negativas,
según demuestren los informes o las alegaciones documentadas que se
presenten a las autoridades nacionales competentes;
d) el posible alcance de dicho perjuicio o dichas repercusiones negativas, en
particular en lo que respecta a su intensidad y su capacidad para afectar a una
gran variedad de personas;

e) la medida en que las personas que podrían sufrir dicho perjuicio o dichas
repercusiones negativas dependan de la información de salida generada con un
sistema de IA, en particular porque, por motivos prácticos o jurídicos, no sea
razonablemente posible renunciar a dicha información;

f) la medida en que las personas que podrían sufrir dicho perjuicio o dichas
repercusiones negativas se encuentren en una posición de vulnerabilidad
respecto del usuario de un sistema de IA, en particular debido a un
desequilibrio en cuanto al poder o los conocimientos que ambos poseen, sus
circunstancias económicas o sociales, o su edad;

g) la medida en que sea fácil revertir la información de salida generada con un
sistema de IA, habida cuenta de que no se debe considerar que la información
de salida que afecta a la salud o la seguridad de las personas es fácil de revertir;

h) la medida en que la legislación vigente en la Unión establezca:
i) medidas de compensación efectivas en relación con los riesgos que
conlleva un sistema de IA, con exclusión de las acciones por daños y
perjuicios;

ES 52 ES