Page 61 - Perez
P. 61
d) la formulación de los supuestos pertinentes, fundamentalmente en lo que
respecta a la información que, ateniéndose a ellos, los datos miden y
representan;
e) la evaluación previa de la disponibilidad, la cantidad y la adecuación de los
conjuntos de datos necesarios;
f) el examen atendiendo a posibles sesgos;
g) la detección de posibles lagunas o deficiencias en los datos y la forma de
subsanarlas.
3. Los conjuntos de datos de entrenamiento, validación y prueba serán pertinentes y
representativos, carecerán de errores y estarán completos. Asimismo, tendrán las
propiedades estadísticas adecuadas, también en lo que respecta a las personas o los
grupos de personas en relación con los que se pretenda utilizar el sistema de IA de
alto riesgo, cuando proceda. Los conjuntos de datos podrán reunir estas
características individualmente para cada dato o para una combinación de estos.
4. Los conjuntos de datos de entrenamiento, validación y prueba tendrán en cuenta, en
la medida necesaria en función de su finalidad prevista, las características o
elementos particulares del contexto geográfico, conductual o funcional específico en
el que se pretende utilizar el sistema de IA de alto riesgo.
5. En la medida en que sea estrictamente necesario para garantizar la vigilancia, la
detección y la corrección de los sesgos asociados a los sistemas de IA de alto riesgo,
los proveedores de dichos sistemas podrán tratar las categorías especiales de datos
personales que se mencionan en el artículo 9, apartado 1, del Reglamento
(UE) 2016/679; el artículo 10 de la Directiva (UE) 2016/680, y el artículo 10,
apartado 1, del Reglamento (UE) 2018/1725, ofreciendo siempre las salvaguardias
adecuadas para los derechos y las libertades fundamentales de las personas físicas, lo
que incluye establecer limitaciones técnicas a la reutilización y la utilización de las
medidas de seguridad y protección de la privacidad más recientes, tales como la
seudonimización o el cifrado, cuando la anonimización pueda afectar
significativamente al objetivo perseguido.
6. Se emplearán prácticas adecuadas de gobernanza y gestión de datos para desarrollar
sistemas de IA de alto riesgo distintos de aquellos que utilizan técnicas que implican
el entrenamiento de modelos, con vistas a garantizar que dichos sistemas de IA de
alto riesgo cumplan lo dispuesto en el apartado 2.
Artículo 11
Documentación técnica
1. La documentación técnica de un sistema de IA de alto riesgo se preparará antes de su
introducción en el mercado o puesta en servicio, y se mantendrá actualizada.
La documentación técnica se redactará de modo que demuestre que el sistema de IA
de alto riesgo cumple los requisitos establecidos en el presente capítulo y
proporcionará a las autoridades nacionales competentes y los organismos notificados
toda la información que necesiten para evaluar si el sistema de IA de que se trate
cumple dichos requisitos. Contendrá, como mínimo, los elementos contemplados en
el anexo IV.
2. Cuando se introduzca en el mercado o se ponga en servicio un sistema de IA de alto
riesgo asociado a un producto al que se apliquen los actos legislativos mencionados
ES 55 ES