Page 10 - Perez

la Unión. Del mismo modo, se imponen obligaciones previsibles, proporcionadas y claras a
los proveedores y los usuarios de dichos sistemas, con el fin de garantizar la seguridad y el
respeto de la legislación vigente protegiendo los derechos fundamentales durante todo el ciclo
de vida de los sistemas de IA. En el caso de determinados sistemas de IA, solo se proponen
obligaciones mínimas en materia de transparencia, en particular cuando se utilizan robots
conversacionales o ultrafalsificaciones.
Las normas propuestas se aplicarán mediante un sistema de gobernanza a escala de los
Estados miembros, el cual aprovechará las estructuras ya existentes, y también por medio de
un mecanismo de cooperación a escala de la Unión con el que se establecerá un Comité
Europeo de Inteligencia Artificial. Además, se proponen medidas adicionales para impulsar la
innovación, en particular a través de espacios controlados de pruebas para la IA y otras
medidas encaminadas a reducir la carga normativa y a respaldar a las pequeñas y medianas
empresas (pymes) y las empresas emergentes.

1.2. Coherencia con las disposiciones existentes en la misma política sectorial

Debido a su carácter horizontal, la propuesta debe ser plenamente coherente con la legislación
de la Unión vigente aplicable a los sectores donde ya se utilizan o es probable que se utilicen
en un futuro próximo sistemas de IA de alto riesgo.
También está garantizada su coherencia con la Carta de los Derechos Fundamentales de la
Unión Europea y el Derecho derivado de la Unión vigente en materia de protección de datos,
protección de los consumidores, no discriminación e igualdad de género. La propuesta debe
entenderse sin perjuicio del Reglamento General de Protección de Datos [Reglamento
(UE) 2016/679] y la Directiva sobre protección de datos en el ámbito penal [Directiva
(UE) 2016/680], a los que complementa con un conjunto de normas armonizadas aplicables al
diseño, el desarrollo y la utilización de determinados sistemas de IA de alto riesgo y con
restricciones de determinados usos de los sistemas de identificación biométrica remota.
Asimismo, la propuesta complementa el Derecho de la Unión vigente en materia de no
discriminación al establecer requisitos específicos que tienen por objeto reducir al mínimo el
riesgo de discriminación algorítmica, en particular en lo tocante al diseño y la calidad de los
conjuntos de datos empleados para desarrollar sistemas de IA, los cuales van acompañados de
obligaciones referentes a la realización de pruebas, la gestión de riesgos, la documentación y
la vigilancia humana durante todo el ciclo de vida de tales sistemas. La propuesta debe
entenderse sin perjuicio de la aplicación de las disposiciones del Derecho de la Unión en
materia de competencia.

En cuanto a los sistemas de IA de alto riesgo que son componentes de seguridad de productos,
esta propuesta se integrará en la legislación sectorial vigente en materia de seguridad para
garantizar la coherencia, evitar duplicidades y reducir al mínimo las cargas adicionales. En
particular, en el caso de los sistemas de IA de alto riesgo asociados a productos cubiertos por
la legislación del nuevo marco legislativo (p. ej., máquinas, productos sanitarios, juguetes),
los requisitos que establece la presente propuesta para los sistemas de IA se comprobarán
como parte de los procedimientos de evaluación de la conformidad previstos en la legislación
pertinente del nuevo marco legislativo. En cuanto a la interrelación de múltiples requisitos,
aunque la idea es que los estipulados en la presente propuesta cubran los riesgos de seguridad
específicos de los sistemas de IA, la legislación del nuevo marco legislativo busca garantizar
la seguridad general del producto final, por lo que podría contener requisitos específicos
relativos a la integración segura de un sistema de IA en el producto final. La propuesta de un
Reglamento relativo a las máquinas, que se aprueba el mismo día que la presente propuesta,
refleja plenamente este enfoque. La presente propuesta no se aplicaría directamente a los
sistemas de IA de alto riesgo asociados a productos cubiertos por la legislación «de antiguo

ES 4 ES