Page 65 - Perez

Los sistemas de IA de alto riesgo que continúan aprendiendo tras su introducción en
el mercado o puesta en servicio se desarrollarán de tal modo que los posibles sesgos
en la información de salida debidos al uso de esta como datos de entrada en futuras
operaciones («bucle de retroalimentación») se subsanen debidamente con las
medidas de mitigación oportunas.
4. Los sistemas de IA de alto riesgo serán resistentes a los intentos de terceros no
autorizados de alterar su uso o funcionamiento aprovechando las vulnerabilidades del
sistema.
Las soluciones técnicas encaminadas a garantizar la ciberseguridad de los sistemas
de IA de alto riesgo serán adecuadas a las circunstancias y los riesgos pertinentes.

Entre las soluciones técnicas destinadas a subsanar vulnerabilidades específicas de la
IA figurarán, según corresponda, medidas para prevenir y controlar los ataques que
traten de manipular el conjunto de datos de entrenamiento («contaminación de
datos»), los datos de entrada diseñados para hacer que el modelo cometa un error
(«ejemplos adversarios») o los defectos en el modelo.
CAPÍTULO 3

OBLIGACIONES DE LOS PROVEEDORES Y USUARIOS DE SISTEMAS DE IA DE
ALTO RIESGO Y DE OTRAS PARTES

Artículo 16
Obligaciones de los proveedores de sistemas de IA de alto riesgo
Los proveedores de sistemas de IA de alto riesgo:

a) velarán por que sus sistemas de IA de alto riesgo cumplan los requisitos definidos en
el capítulo 2 del presente título;

b) contarán con un sistema de gestión de la calidad que cumpla lo dispuesto en el
artículo 17;

c) elaborarán la documentación técnica del sistema de IA de alto riesgo;

d) cuando estén bajo su control, conservarán los archivos de registro que sus sistemas
de IA de alto riesgo generen automáticamente;

e) se asegurarán de que los sistemas de IA de alto riesgo sean sometidos al
procedimiento de evaluación de la conformidad oportuno antes de su introducción en
el mercado o puesta en servicio;

f) cumplirán las obligaciones de registro a que se refiere el artículo 51;
g) adoptarán las medidas correctoras necesarias cuando un sistema de IA de alto riesgo
no cumpla los requisitos establecidos en el capítulo 2 del presente título;
h) informarán a las autoridades nacionales competentes del Estado miembro donde
hayan comercializado o puesto en servicio el sistema de IA y, en su caso, al
organismo notificado de los casos de no conformidad y de las medidas correctoras
adoptadas;
i) colocarán el marcado CE en sus sistemas de IA de alto riesgo para indicar que
cumplen lo dispuesto en el presente Reglamento, de conformidad con el artículo 49;

ES 59 ES