Page 60 - Perez

a) eliminar o reducir los riesgos en la medida en que sea posible mediante un
diseño y un desarrollo adecuados;
b) implantar, cuando proceda, unas medidas de mitigación y control apropiadas en
relación con los riesgos que no puedan eliminarse;

c) proporcionar la información oportuna conforme al artículo 13, en particular en
relación con los riesgos mencionados en el apartado 2, letra b), del presente
artículo y, cuando proceda, impartir formación a los usuarios.
Cuando se eliminen o reduzcan los riesgos asociados a la utilización del sistema de
IA de alto riesgo, se tendrán en la debida consideración los conocimientos técnicos,
la experiencia, la educación y la formación que se espera que posea el usuario, así
como el entorno en el que está previsto que se utilice el sistema.
5. Los sistemas de IA de alto riesgo serán sometidos a pruebas destinadas a determinar
cuáles son las medidas de gestión de riesgos más adecuadas. Dichas pruebas
comprobarán que los sistemas de IA de alto riesgo funcionan de un modo adecuado
para su finalidad prevista y cumplen los requisitos establecidos en el presente
capítulo.
6. Los procedimientos de prueba serán adecuados para alcanzar la finalidad prevista del
sistema de IA y no excederán de lo necesario para ello.

7. Las pruebas de los sistemas de IA de alto riesgo se realizarán, según proceda, en
cualquier momento del proceso de desarrollo y, en todo caso, antes de su
introducción en el mercado o puesta en servicio. Los ensayos se realizarán a partir de
parámetros y umbrales de probabilidades previamente definidos que sean adecuados
para la finalidad prevista del sistema de IA de alto riesgo de que se trate.
8. Cuando se implante el sistema de gestión de riesgos descrito en los apartados 1 a 7,
se prestará especial atención a la probabilidad de que menores accedan al sistema de
IA de alto riesgo de que se trate o se vean afectados por él.
9. En el caso de las entidades de crédito reguladas por la Directiva 2013/36/UE, los
aspectos descritos en los apartados 1 a 8 formarán parte de los procedimientos de
gestión de riesgos que estas establezcan conforme al artículo 74 de dicha Directiva.

Artículo 10
Datos y gobernanza de datos

1. Los sistemas de IA de alto riesgo que utilizan técnicas que implican el entrenamiento
de modelos con datos se desarrollarán a partir de conjuntos de datos de
entrenamiento, validación y prueba que cumplan los criterios de calidad expuestos en
los apartados 2 a 5.
2. Los conjuntos de datos de entrenamiento, validación y prueba se someterán a
prácticas adecuadas de gobernanza y gestión de datos. Dichas prácticas se centrarán,
en particular, en:
a) la elección de un diseño adecuado;

b) la recopilación de datos;
c) las operaciones de tratamiento oportunas para la preparación de los datos,
como la anotación, el etiquetado, la depuración, el enriquecimiento y la
agregación;

ES 54 ES