Introducción.
Finalizaba mi última
entrada, publicada ayer martes con el título “Tras el Congreso OIT/Sevilla (7 y8 de febrero) sobre el futuro del trabajo. Sigamos debatiendo y haciendopropuestas para un mundo mejor”, recomendando la lectura del libro “Ética paramáquinas”, del profesor José Ignacio Latorre, catedrático de física teórica de
la Universidad de Barcelona.
En su introducción,
el autor expone una idea central de su obra, que desarrolla exhaustivamente en
las 312 páginas: se trata, nos dice, “de una invitación a la reflexión sin
prejuicios sobre máquinas inteligentes que necesariamente han de ser éticas si
hemos de cohabitar con ellas”, y añade que “no podemos reducir todo a intereses
puramente comerciales dejados en manos de grandes corporaciones. El debate
ético sobre el control del genoma humano debe ser extendido inmediatamente al
de la inteligencia artificial. ¿Qué decisiones programaremos en el código
fuente de máquinas ultrapotentes y ultraconectadas? ¿Qué responsabilidades se
derivan del posible error de un algoritmo mal programado o insuficientemente
elaborado?” (pág. 17).
Pues bien, al
mismo tiempo que estaba redactando mi texto, el Parlamento Europeo, reunido en
sesión plenaria en Estrasburgo, aprobaba la que considero una de sus más
importantes Resoluciones de cada al futuro que nos aguarda, y no solo el
relativo al mundo del trabajo, aun cuando desde luego también de indudable
importancia para este, en concreto la titulada “Una política industrial global enmateria de inteligencia artificial y robótica”, texto que fue publicado por la
tarde en su página web.
Estoy seguro de
que al profesor Latorre, y a todas las personas preocupadas por la “Ética para
máquinas”, que en el ámbito laboral cada vez somos más, le interesará su
lectura y análisis, ya que no en vano la Resolución presta especial atención a
dicha ética y aborda de forma detallada el impacto de la inteligencia
artificial y la robótica en casi todas las facetas de la vida cotidiana de las
personas en gran parte del planeta.
Por todo ello, me
permito recomendar su atenta lectura. Cuestión distinta, y ya sabemos que se
trata de textos jurídicamente no vinculantes, es el grado de aplicación
práctica que tendrá en el inmediato futuro, que me atrevo a sostener que debería
ser mucho dada la velocidad con la que están operando los cambios económicos,
sociales, culturales y políticos, por mor del impacto que en todos ellos tiene
la tecnología.
Destaco a continuación
aquellos contenidos que considero que poseen más trascendencia para el mundo
laboral, de la mayor parte de los cuales se habló y debatió en el Congreso OIT
de Sevilla, y que también son objeto de atención en el documento de la Comisión
Mundial del Trabajo “Un futuro del trabajo más prometedor”, en el bien
entendido que prácticamente casi todo el texto de la Resolución tiene alguna
incidencia, directa o indirecta, sobre el mundo el trabajo.
Una realidad tecnológica, que sin duda está también detrás de los
importantes cambios operados en dicho mundo laboral a escala mundial, tal como
puede constatarse a partir de la lectura del último Informe anual (2019) de laOIT sobre “Perspectivas sociales y de empleo en el mundo”, hecho publico el 13de febrero, en cuyo resumen puede leerse que “La ejecución del mandato de la
OIT de promover el trabajo decente e impulsar la justicia social requiere de
mercados laborales inclusivos y eficaces. Ello se debe a que el trabajo
remunerado es la principal fuente de ingresos de la amplia mayoría de los hogares
del mundo, y a que la organización del trabajo puede reforzar los principios
fundamentales de igualdad, democracia, sostenibilidad y cohesión social. En
2019, año del centenario de la OIT, esta noción se ve reforzada por la fuerte
visión planteada en el informe de la Comisión Mundial sobre el Futuro del
Trabajo titulado Trabajar para un futuro más prometedor, en el que se insta a
centrar el programa sobre el futuro del trabajo en las personas y a renovar el
interés en el abanico de capacidades de las personas, y en el potencial de las
instituciones del mercado de trabajo, así como en la urgencia de invertir en
ámbitos de la economía desaprovechados en los países desarrollados y en
desarrollo. Atendiendo a esta nueva visión, al exponer y analizar las tendencias
del mercado de trabajo es preciso centrar la atención en los aspectos de la igualdad,
la sostenibilidad y la capacidad de inclusión”.
Buena lectura de la Resolución del Parlamento europeo.
“1.Una sociedad
con el apoyo de la inteligencia artificial y la robótica
1.1. La mano de
obra en la era de la inteligencia artificial y la robótica
1. Subraya que la automatización unida a la
inteligencia artificial aumentará la productividad y con ella la producción;
señala que, al igual que en anteriores revoluciones tecnológicas, se
sustituirán algunos puestos de trabajo, pero también se crearán otros nuevos
que transformarán nuestras vidas y prácticas profesionales; subraya asimismo
que un mayor uso de la robótica y la inteligencia artificial también debe
reducir la exposición de los seres humanos a condiciones perjudiciales y
peligrosas, así como contribuir a crear más puestos de trabajo de calidad y
dignos y a mejorar la productividad;
2. Insta a los Estados miembros a que se centren
en la reconversión de los trabajadores de las industrias más afectadas por la
automatización de las tareas; subraya que los nuevos programas educativos deben
centrarse en el desarrollo de las capacidades de los trabajadores para que
estos puedan aprovechar las oportunidades de empleo que ofrecen los nuevos
puestos de trabajo creados por la inteligencia artificial; apoya el desarrollo
de programas de alfabetización digital en los centros escolares y el
establecimiento de prioridades en materia de aprendizaje y formación
profesional para ayudar a los trabajadores a adaptarse a los cambios
tecnológicos;
3. Recomienda que los Estados miembros, junto
con los agentes del sector privado, determinen los riesgos y elaboren
estrategias para garantizar la puesta a punto de los programas de reconversión
y reciclaje profesional pertinentes; destaca que las propias empresas han de
invertir en la formación y el reciclaje profesional de la mano de obra
existente para responder a sus necesidades;
4. Hace hincapié en que el desarrollo de la
robótica en la Unión tendrá una gran incidencia en las relaciones laborales;
estima que esa incidencia debe abordarse de manera equilibrada para promover la
reindustrialización y permitir que también los trabajadores se beneficien del
incremento de la productividad;
5. Señala que en el panorama industrial actual
existe un delicado equilibrio entre los propietarios y los trabajadores; estima
que la aplicación de la inteligencia artificial en la industria debe avanzar en
el marco de una amplia consulta con los interlocutores sociales, ya que el
posible cambio en el número de personas que trabajan en el sector requiere
políticas proactivas que ayuden a los trabajadores a adaptarse a las nuevas
demandas y garantizar que los beneficios sean ampliamente compartidos; señala
que para ello es necesario reconsiderar y rediseñar las políticas del mercado
de trabajo, los regímenes de seguridad social y la fiscalidad;
6. Insta a los Estados miembros a que supriman
los obstáculos a la entrada en el mercado laboral, tales como las
cualificaciones excesivas;
7. Estima que la alfabetización digital es uno
de los factores más importantes para el futuro desarrollo de la IA, e insta a
la Comisión y a los Estados miembros a que desarrollen y apliquen estrategias
de formación y reciclaje en materia de capacidades digitales; señala que la
alfabetización digital puede favorecer una participación amplia e integradora
en las soluciones de la economía de los datos y facilitar la comunicación y la
cooperación con todas las partes interesadas;
8. Señala que, dado que los ciudadanos de todas
las edades se van a ver afectados, se han de adaptar los planes de estudio,
concretamente mediante la creación de nuevos itinerarios de aprendizaje y el
uso de nuevas tecnologías de difusión; subraya que los aspectos educativos
deben abordarse adecuadamente; tiene presente en particular la necesidad de
impulsar las capacidades digitales, incluida la programación, a lo largo de la
enseñanza y formación, desde los primeros años de escolarización hasta el
aprendizaje permanente;
1.2. El uso
malintencionado de la inteligencia artificial y los derechos fundamentales
10. Pide a la Comisión que proponga un marco que
penalice las prácticas de manipulación de la percepción cuando los contenidos
personalizados o las fuentes de noticias provoquen sentimientos negativos y una
deformación de la percepción de la realidad que podrían tener consecuencias
negativas (por ejemplo, resultados electorales o percepciones distorsionadas
sobre cuestiones sociales como la migración);
13. Expresa su gran preocupación por el empleo de
aplicaciones de inteligencia artificial, incluido el reconocimiento facial y
vocal, en los programas de «vigilancia emocional», es decir, el seguimiento de
las condiciones mentales de los trabajadores y los ciudadanos, con el fin de
obtener un incremento de la productividad y preservar la estabilidad social, en
algunos casos asociándolos a sistemas de «crédito social», como, por ejemplo,
los que ya se han establecidos en China; destaca que esos programas entran en
conflicto de por sí con los valores y normas europeos que protegen los derechos
y libertades de las personas;
2.La vía
tecnológica hacia la inteligencia artificial y la robótica
2.1. Investigación
y desarrollo
18. Subraya que en el marco de la investigación
sobre la IA se debe invertir no solo en la tecnología de la IA y en el
desarrollo de la innovación, sino también en los ámbitos sociales, éticos y de
responsabilidad relacionados con la IA; estima que todos los modelos de IA que
se desplieguen deben ser éticos desde su concepción;
3.1. Sectores
prioritarios
3.1.1. Sector
público
62. Hace hincapié en que los Estados miembros
también deben invertir en programas de educación y formación en materia de IA
para ayudar a los empleados del sector público a adoptar la IA y la robótica;
señala que también deben llevarse a cabo campañas de información dirigidas a
los ciudadanos que utilicen los servicios del sector público prestados por
sistemas de inteligencia artificial y robótica, con el fin de calmar sus
temores en relación con la pérdida de control de sus datos personales y de
generar confianza;
67. Destaca la necesidad de incluir al público en
el proceso de desarrollo de la IA; pide, por tanto, a la Comisión que publique
todos los algoritmos, herramientas o tecnologías financiados o cofinanciados
por el público como fuente abierta;
3.1.2. Salud
74. Subraya que la utilización de datos en el
sector de la salud debe ser objeto de un seguimiento atento y ético, y no debe
obstaculizar en modo alguno el acceso a la protección social o a la seguridad
social;
4. Marco jurídico
para la inteligencia artificial y la robótica
123. Recuerda que muchos aspectos políticos
pertinentes para los servicios propiciados por la IA, incluidas las normas
sobre la protección de los consumidores y la política en materia de ética y
responsabilidad, están cubiertos por el marco regulador vigente en materia de
servicios, a saber, la Directiva de servicios(12) , la Directiva sobre las
cualificaciones profesionales y la Directiva sobre comercio electrónico(13) ;
subraya, en este sentido, que los seres humanos siempre deben ser los
responsables, en última instancia, de la toma de decisiones, especialmente en
el caso de los servicios profesionales, como las profesiones médicas, jurídicas
y de contabilidad; considera que es necesario reflexionar sobre si es necesaria
la supervisión por parte de un profesional cualificado, con vistas a proteger
objetivos legítimos de interés público y prestar servicios de alta calidad;
4.2. Datos de
carácter personal y privacidad
125. Subraya que debe garantizarse un alto nivel
de seguridad, protección e intimidad con respecto a los datos utilizados para
la comunicación entre las personas y los robots y la inteligencia artificial;
por consiguiente, pide a la Comisión y a los Estados miembros que integren la
protección de la seguridad y la privacidad desde el diseño en sus políticas
relacionadas con la robótica y la inteligencia artificial;
126. Recuerda que el derecho a la protección de la
vida privada y el derecho a la protección de los datos personales, consagrados
en los artículos 7 y 8 de la Carta de los Derechos Fundamentales y en el
artículo 16 del Tratado de Funcionamiento de la Unión Europea, se aplican a
todos los ámbitos de la robótica y de la inteligencia artificial, y que debe
respetarse plenamente el marco jurídico de la Unión en materia de protección de
datos; subraya la responsabilidad que tienen los diseñadores de sistemas
robóticos y de inteligencia artificial de desarrollar productos que sean
seguros, fiables y que cumplan su función, y de seguir procedimientos de
tratamiento de datos conformes a la legislación en vigor, la confidencialidad,
el anonimato, el trato justo y el respeto de la legalidad;
4.4. Protección y
capacitación de los consumidores
135. Considera que las tecnologías de inteligencia
artificial desarrolladas tanto para la fabricación como para el uso individual
deben estar sujetas a controles de seguridad del producto llevados a cabo por
las autoridades de vigilancia del mercado, así como a normas de protección de
los consumidores, garantizando, cuando corresponda, unas normas mínimas de
seguridad y teniendo en cuenta el riesgo de accidentes derivados de la
interacción con los seres humanos o del trabajo en las cercanías de ellos;
opina que las cuestiones éticas y relacionadas con la protección de datos,
incluidos los datos personales y de terceros, así como la responsabilidad civil
y la ciberseguridad, deben tenerse en cuenta en cualquier política sobre
inteligencia artificial;
5.Aspectos éticos
138. Considera que las acciones y aplicaciones de
inteligencia artificial deben respetar los principios éticos y el Derecho
pertinente a escala nacional, de la Unión e internacional;
139. Pide la creación de una carta ética de buenas
prácticas para la inteligencia artificial y la robótica que deben seguir las
empresas y expertos;
140. Pide a la Comisión y a los Estados miembros
que promuevan una cooperación estrecha y transparente entre los sectores
público y privado y la universidad que refuerce el intercambio de conocimientos
y fomente la educación y la formación de los diseñadores en cuanto a las
implicaciones éticas, la seguridad y el respeto de los derechos fundamentales y
de los consumidores sobre el uso de la robótica y de la inteligencia
artificial, haciendo especial hincapié en la seguridad y la privacidad de los
datos;
141. Pide a la Comisión que vele por que las
aplicaciones basadas en la inteligencia artificial no utilicen datos recogidos
de diversas fuentes sin haber recibido previamente el consentimiento de la
persona concernida; pide a la Comisión que cree un marco que garantice que el
consentimiento dado por la persona concernida únicamente genere datos para los
fines previstos;
142. Pide a la Comisión que respete el derecho de
los ciudadanos a una vida fuera de línea y garantice que no se discriminará a
los ciudadanos sobre los que no haya datos registrados;
5.1. Tecnología
centrada en el ser humano
143. Subraya que deben establecerse normas éticas
para garantizar el desarrollo de una inteligencia artificial centrada en el ser
humano, la rendición de cuentas y la transparencia de los sistemas algorítmicos
de toma de decisiones, así como unas normas claras en materia de responsabilidad
y equidad;
5.2. Valores
incorporados en la tecnología y ética desde el diseño
149. Subraya que las normas europeas en materia de
inteligencia artificial deben basarse en los principios de la ética digital, la
dignidad humana, el respeto de los derechos fundamentales, la protección de
datos y la seguridad, contribuyendo así a generar confianza entre los usuarios;
destaca la importancia de aprovechar el potencial de la Unión en la creación de
una infraestructura sólida para los sistemas de inteligencia artificial basada
en unas normas rigurosas en materia de datos y de respeto de los seres humanos;
señala que es necesario integrar la transparencia y la explicabilidad en el
desarrollo de la inteligencia artificial;
5.3. Toma de
decisiones: límites de la autonomía de la inteligencia artificial y la robótica
153. Pide que las personas tengan derecho a saber,
derecho de recurso y derecho a reparación cuando la inteligencia artificial se
utilice para decisiones que les afecten y conlleven un riesgo significativo
para los derechos o libertades individuales o puedan menoscabarlos;
154. Destaca que los algoritmos de los sistemas de
toma de decisiones no deben utilizarse sin una evaluación algorítmica de
impacto preliminar, a menos que esté claro que no tienen un impacto significativo
en la vida de las personas;
5.4. Transparencia,
sesgo y explicación de los algoritmos
156. Señala que, si bien la inteligencia
artificial aporta grandes beneficios a la automatización y la toma de
decisiones, también conlleva un riesgo inherente cuando los algoritmos son
estáticos y opacos; destaca, en este contexto, la necesidad de una mayor
transparencia en lo que se refiere a los algoritmos;
157. Pide a la Comisión, a los Estados miembros y
a las autoridades encargadas de la protección de datos que definan y adopten
todas las medidas que se impongan para evitar o minimizar la discriminación y
el sesgo algorítmicos y que desarrollen un marco ético común sólido para el
tratamiento transparente de los datos personales y la toma de decisiones
automatizada que sirva de guía para la utilización de los datos y la aplicación
del Derecho de la Unión;
158. Subraya que todo sistema de inteligencia
artificial debe desarrollarse respetando los principios de transparencia y de
responsabilidad algorítmica de modo que los seres humanos puedan comprender sus
acciones; señala que, a fin de generar confianza en la inteligencia artificial
y permitir el progreso de la misma, los usuarios deben ser conscientes de cómo
se utilizan sus datos, otros datos y datos derivados de sus datos, cuando se
comunican o interactúan con un sistema de inteligencia artificial o con humanos
que se apoyan en un sistema de inteligencia artificial; considera que esto
contribuirá a una mejor comprensión y a una mayor confianza entre usuarios;
destaca que la inteligibilidad de las decisiones debe ser una norma de la Unión
de conformidad con los artículos 13, 14 y 15 del RGPD; recuerda que el RGPD ya
dispone un derecho a ser informado acerca de la lógica que subyace al
tratamiento de datos; destaca que, con arreglo al artículo 22 del RGPD, los
individuos tienen derecho a una intervención humana cuando una decisión basada
en un tratamiento automatizado les afecte de forma significativa;
168. Destaca la importancia de abordar el sesgo de
los promotores y, por consiguiente, la necesidad de contar con una mano de obra
diversificada en todas las ramas del sector de las tecnologías de la
información, y con mecanismos de salvaguardia para evitar distorsiones basadas
en el género y la edad en los sistemas de inteligencia artificial;
171. Destaca la necesidad de elaborar protocolos
para el seguimiento continuo y la detección de sesgos algorítmicos;
176. Subraya que la difusión de la inteligencia
artificial y la robótica debe llevarse a cabo dentro del pleno respeto de los
derechos humanos y que en ningún caso deben reproducirse en las máquinas y los
robots los estereotipos contra las mujeres ni ninguna otra forma de
discriminación;
180. Reitera que los sistemas de inteligencia
artificial no deben crear sesgos ni potenciarlos; subraya que, a la hora de
elaborar y utilizar los algoritmos se deben incluir consideraciones sobre sesgo
y equidad en todas las fases, desde el diseño hasta la aplicación; considera
que el conjunto de datos y el algoritmo deben evaluarse y someterse a pruebas
periódicas para garantizar la exactitud de la toma de decisiones”.
No hay comentarios:
Publicar un comentario