Page 45 - Perez

de la UE, de cuya creación y gestión se encargará la Comisión. La Comisión debe ser
la responsable del tratamiento de dicha base de datos, de conformidad con el
55
Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo . Con vistas a
garantizar la funcionalidad plena de la base de datos una vez que esté en
funcionamiento, el procedimiento para su establecimiento debe incluir la elaboración
de especificaciones funcionales por parte de la Comisión y la redacción de un informe
de auditoría independiente.
(70) Determinados sistemas de IA destinados a interactuar con personas físicas o a generar
contenidos pueden conllevar riesgos específicos de suplantación o falsificación, con
independencia de si son clasificados como de alto riesgo o no. Por consiguiente, el uso
de estos sistemas debe estar sujeto, en determinadas circunstancias, a obligaciones de
transparencia específicas, sin perjuicio de los requisitos y las obligaciones aplicables a
los sistemas de IA de alto riesgo. En particular, es preciso notificar a las personas
físicas que están interactuando con un sistema de IA, salvo que sea evidente por las
circunstancias y el contexto de uso, e informarlas cuando estén expuestas a un sistema
de reconocimiento de emociones o a un sistema de categorización biométrica. Esta
información y estas notificaciones deben facilitarse en formatos accesibles para las
personas con discapacidad. Además, los usuarios que utilicen un sistema de IA para
generar o manipular imágenes, archivos de audio o vídeos que se asemejen
notablemente a personas, lugares o sucesos reales y puedan inducir erróneamente a
una persona a pensar que son auténticos, deben comunicar que estos han sido creados
o manipulados de manera artificial etiquetando el contenido generado por la
inteligencia artificial como corresponda e indicando su origen artificial.
(71) La inteligencia artificial es una familia de tecnologías de rápida evolución que requiere
nuevas formas de vigilancia regulatoria y un espacio seguro para la experimentación,
así como que se garantice la innovación responsable y la integración de salvaguardias
y medidas de reducción del riesgo adecuadas. Para conseguir un marco jurídico que
favorezca la innovación, resista el paso del tiempo y sea resiliente a las perturbaciones,
conviene animar a las autoridades nacionales competentes de uno o varios Estados
miembros a que establezcan espacios controlados de pruebas para la inteligencia
artificial que faciliten el desarrollo y la prueba de sistemas de IA innovadores bajo una
estricta vigilancia regulatoria antes de su introducción en el mercado o puesta en
servicio.
(72) Los espacios controlados de pruebas deben tener los objetivos de impulsar la
innovación en el ámbito de la IA estableciendo un entorno de experimentación y
prueba controlado en la fase de desarrollo y previa a la comercialización, con vistas a
garantizar que los sistemas de IA innovadores cumplan lo dispuesto en el presente
Reglamento y en otra legislación pertinente de la Unión y los Estados miembros; de
redoblar la seguridad jurídica de que gozan los innovadores y favorecer la vigilancia
de las autoridades competentes y su entendimiento de las oportunidades, los riesgos
emergentes y las consecuencias del uso de la IA; y de acelerar el acceso a los
mercados eliminando las barreras para las pequeñas y medianas empresas (pymes) y
las empresas emergentes, entre otras medidas. Para garantizar una aplicación uniforme
en toda la Unión y conseguir economías de escala, resulta oportuno establecer normas

55 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la
protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre
circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de
protección de datos) (DO L 119 de 4.5.2016, p. 1).

ES 39 ES