Page 39 - MAS 8

«la autoNomía es
uNo de los pilares
básicos eN la

«lo que teNemos ética occideNtal.
hoy eN día, y así siN embargo,
será duraNte este priNcipio de
mucho tiempo, autoNomía se está
soN sistemas vieNdo violado
de iNteligeNcia hoy eN día. muchos
artificial de Nuestros
específica. soN peNsamieNtos o
muy bueNos eN decisioNes No soN
uNa cosa pero 100% autóNomas,
solo eN esa cosa. como hemos visto
por ejemplo, últimameNte eN
desde hace ya las eleccioNes
muchos años el NorteamericaNas o
mejor jugador eN el brexit»
del muNdo de
ajedrez es uN
algoritmo»

cuatro más: la legal y regulatoria (necesitamos un marco legal adecuado para una tienen sobre la sociedad, para que realmente contribuyan a su progreso. La
sociedad en la que coexistamos con sistemas inteligentes), la dimensión social N es de no maleficencia, que es algo diferente. No se trata solo de maximizar
(necesitamos educación y formación), la económica y del mercado laboral, de lo positivo, sino también de minimizar lo negativo. Debemos asegurarnos de
la que hablaba antes, y la ética. Respecto a esta última, hay que trabajar cinco que los sistemas que desarrollemos tengan unas garantías de seguridad, de
pilares que en inglés se resumen en el acrónimo FATEN. La F es de fairness fiabilidad y de reproducibilidad. Y que, además, apliquemos un principio de
o justicia. Si los sistemas que desarrollamos están tomando decisiones, prudencia, preservando siempre la privacidad de las personas.
tenemos que asegurarnos de que sean justas y no discriminatorias. Como
bien sabemos, los humanos no somos perfectos. Nuestras decisiones están ¿Ves un futuro en el que los robots tengan conciencia y sean capaces
sujetas a conflictos de interés, egoísmo, cansancio, manipulación, corrupción, de asumir ideas como justicia, libertad, amor u odio?
etcétera. La aspiración es que los algoritmos superen las limitaciones de Otra manera de analizar los sistemas de IA es por cómo de competentes son
las decisiones humanas, pero con lo que nos estamos encontrando es con cuando los comparamos con los humanos. Lo que tenemos hoy en día, y así
que, si no tomamos ciertas precauciones, los sistemas pueden no solamente será durante mucho tiempo, son sistemas de inteligencia artificial específica.
replicar patrones de discriminación existentes, sino incluso amplificarlos. El Son muy buenos en una cosa pero solo en esa cosa. Por ejemplo, desde hace
sentido de la A es triple: autonomía, atribución de responsabilidad y aumento ya muchos años el mejor jugador del mundo de ajedrez es un algoritmo. Ese
de inteligencia. La autonomía es uno de los pilares básicos en la ética algoritmo ni siquiera sabe lo que es el ajedrez, y solo sabe hacer eso, nada
occidental. Los seres humanos deberíamos ser dueños de nuestras propias más. Si cambiásemos las reglas del ajedrez tendría problemas para poder
acciones y pensamientos. Sin embargo, este principio de autonomía se está jugar, no se podría adaptar. El siguiente paso, la aspiración original de la IA,
viendo violado hoy en día. Muchos de nuestros pensamientos o decisiones sería que fuera una inteligencia general, similar a la humana. Estamos aún
no son 100% autónomas, como hemos visto últimamente en las elecciones muy lejos de llegar a eso, pero, además, tampoco es necesario para que la
norteamericanas o en el Brexit. La opinión ciudadana se puede manipular. inteligencia artificial sea útil y tenga impacto. La Ley de Moore [formulada
Con respecto a la atribución de responsabilidad, deberíamos tener muy claras en 1965 por el cofundador de Intel Gordon E. Moore] estableció que
las posibles consecuencias del uso de la tecnología. Y en cuanto al aumento cada año o cada año y medio se duplicaría la capacidad de computación
de inteligencia, no se trata en realidad de sustituir al ser humano, sino de por el mismo precio. Por eso cuando te compras un móvil o un portátil se
aumentar su visión. Los humanos somos muy buenos en ciertas cosas y los queda obsoleto al año siguiente. Aplicando este principio, la capacidad de
ordenadores lo son en otras. La idea es que nos complementemos. La T es computación debería seguir y seguir creciendo exponencialmente. Hay
de transparencia. La clave es que haya transparencia, pero no solo en relación autores como Nick Bostrom, de la Universidad de Oxford, que dicen que
al tema de los datos, también, por ejemplo, respecto a por qué un algoritmo no hay motivo para detenerse en la inteligencia humana. Y teóricamente, si
decide lo que decide. La E es doble, de educación y beneficencia. Deberíamos conseguimos seguir aumentando la capacidad de computación, podríamos
intentar maximizar el impacto positivo que la tecnología, y en particular la IA, superar la inteligencia humana. Es lo que se llama superinteligencia y es >>

39