Page 30 - Perez

un sistema de IA. Los sistemas de IA desarrollados o utilizados exclusivamente con
fines militares deben quedar excluidos del ámbito de aplicación del presente
Reglamento cuando su uso sea competencia exclusiva de la política exterior y de
seguridad común regulada en el título V del Tratado de la Unión Europea (TUE). El
presente Reglamento debe interpretarse sin perjuicio de las disposiciones de la
Directiva 2000/31/CE del Parlamento Europeo y el Consejo (en su versión modificada
por la Ley de Servicios Digitales) relativas a la responsabilidad de los prestadores de
servicios intermediarios.

(13) Conviene establecer normas comunes para todos los sistemas de IA de alto riesgo al
objeto de garantizar un nivel elevado y coherente de protección de los intereses
públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales.
Dichas normas deben ser coherentes con la Carta de los Derechos Fundamentales de la
Unión Europea («la Carta»), no deben ser discriminatorias y deben estar en
consonancia con los compromisos de la Unión en materia de comercio internacional.

(14) Con el fin de introducir un conjunto proporcionado y eficaz de normas vinculantes
para los sistemas de IA, es preciso aplicar un enfoque basado en los riesgos claramente
definido, que adapte el tipo de las normas y su contenido a la intensidad y el alcance
de los riesgos que puedan generar los sistemas de IA en cuestión. Por consiguiente, es
necesario prohibir determinadas prácticas de inteligencia artificial, definir los
requisitos que deben cumplir los sistemas de IA de alto riesgo y las obligaciones
aplicables a los operadores pertinentes, e imponer obligaciones de transparencia a
determinados sistemas de IA.
(15) Al margen de los múltiples usos beneficiosos de la inteligencia artificial, dicha
tecnología también puede utilizarse indebidamente y proporcionar nuevas y poderosas
herramientas para llevar a cabo prácticas de manipulación, explotación y control
social. Dichas prácticas son sumamente perjudiciales y deben estar prohibidas, pues
van en contra de los valores de la Unión de respeto de la dignidad humana, libertad,
igualdad, democracia y Estado de Derecho y de los derechos fundamentales que
reconoce la UE, como el derecho a la no discriminación, la protección de datos y la
privacidad, y los derechos del niño.

(16) Debe prohibirse la introducción en el mercado, la puesta en servicio o el uso de
determinados sistemas de IA destinados a alterar la conducta humana que es probable
que provoquen perjuicios físicos o psicológicos. Dichos sistemas de IA despliegan
componentes subliminales imperceptibles para el ser humano o se aprovechan de las
vulnerabilidades de los menores y las personas por razones de edad o incapacidad
física o mental. Lo hacen con la intención de alterar sustancialmente el
comportamiento de una persona y de un modo que perjudique o es probable que
perjudique a esa misma persona o a otra. Dicha intención no puede darse por supuesta
si la alteración del comportamiento humano es el resultado de factores externos al
sistema de IA que escapan al control del proveedor o el usuario. Su prohibición no
debe impedir la investigación relacionada con esos sistemas de IA con fines legítimos,
siempre que tal investigación no implique usar el sistema de IA en cuestión en
relaciones entre seres humanos y máquinas que expongan a personas físicas a
perjuicios, y siempre que se lleve a cabo con arreglo a las normas éticas reconocidas
para la investigación científica.
(17) Los sistemas de IA que proporcionan calificaciones sociales de personas físicas para
su uso con fines generales por parte de las autoridades públicas o en representación de
estas pueden tener resultados discriminatorios y abocar a la exclusión a determinados

ES 24 ES