En 2016, el Instituto Tecnológico de Massachusetts puso en marcha la denominada Máquina Moral, un experimento que planteaba a personas de todo el mundo una serie de dilemas relacionados con vehículos autónomos. Ante un accidente inevitable, el participante debía elegir qué vidas debía proteger el vehículo: las de sus ocupantes o las de los peatones; las de una persona joven o las de una persona mayor; las de varias personas o las de una sola.

El experimento trasladaba al ámbito de la inteligencia artificial una versión del conocido dilema del tranvía: cuando no es posible evitar el daño, ¿quién debe decidir qué opción es moralmente preferible?

La importancia de la Máquina Moral no reside en las respuestas obtenidas. Su aportación fue mostrar que las decisiones tecnológicas nunca son completamente neutrales, ya que detrás de cada sistema automatizado existen criterios, prioridades y valores.

Aunque los dilemas de la Máquina Moral puedan parecer extremos o alejados de la vida cotidiana, la pregunta que plantean está cada vez más presente en ámbitos mucho más próximos. ¿Qué ocurre cuando la Inteligencia Artificial es la que toma las decisiones?

Es precisamente en este contexto donde adquiere especial relevancia el Reglamento (UE) 2024/1689, conocido como Reglamento Europeo de Inteligencia Artificial o IA Act. Su incorporación exige superar una visión centrada únicamente en la eficiencia y adoptar garantías que permitan mantener el criterio y la responsabilidad humanos en las decisiones sobre personas.

Esta norma establece un marco común para el desarrollo, la comercialización y la utilización de sistemas de inteligencia artificial dentro de la Unión Europea, siendo su finalidad última equilibrar la innovación, al mismo tiempo que proteger la seguridad, la salud y los derechos fundamentales de los seres humanos.

Para alcanzar este objetivo, la norma prohíbe determinadas prácticas, establece requisitos para los sistemas de alto riesgo, impone obligaciones de transparencia y regula su vigilancia, gobernanza y cumplimiento, al tiempo que contempla medidas de apoyo a la innovación (Artículo 1).

 

Cuando la inteligencia artificial decide sobre las personas

La expansión de la inteligencia artificial suele presentarse como una transformación tecnológica, asociada a conceptos como “automatización”, “productividad”, “análisis de datos” o “reducción de costes”. Sin embargo, el cambio más profundo puede producirse cuando se comience a intervenir en decisiones que condicionan la vida de las personas.

El Reglamento Europeo de Inteligencia Artificial aborda esta realidad mediante un enfoque basado en el riesgo. No todos los usos de la IA plantean las mismas consecuencias y, por tanto, no todos están sujetos a las mismas obligaciones. Mientras que determinadas prácticas se encuentran prohibidas (como algunos usos de la categorización biométrica, la identificación biométrica remota o la evaluación del riesgo de que una persona cometa un delito basada exclusivamente en perfiles o rasgos personales), otras se consideran de alto riesgo por su posible impacto sobre la seguridad, los derechos fundamentales y las oportunidades de las personas.

Entre estas últimas se encuentran determinados sistemas utilizados en la educación, la formación profesional y el empleo. La razón es evidente: una herramienta que interviene en la admisión a unos estudios, la selección para un puesto de trabajo, la evaluación del rendimiento o una promoción profesional puede influir de manera decisiva en una trayectoria personal y profesional.

Hablar de estos riesgos no significa rechazar la tecnología, sino reconocer que sus resultados pueden verse condicionados por los datos empleados, los criterios de diseño y los objetivos establecidos, como advierte el propio Reglamento:

“Dichos sistemas pueden perpetuar patrones históricos de discriminación, por ejemplo contra las mujeres, determinados grupos de edad, las personas con discapacidad o las personas de orígenes raciales o étnicos concretos o con una orientación sexual determinada, durante todo el proceso de contratación y en la evaluación, promoción o retención de personas en las relaciones contractuales de índole laboral. Los sistemas de IA empleados para controlar el rendimiento y el comportamiento de estas personas también pueden socavar sus derechos fundamentales a la protección de los datos personales y a la intimidad.”

El riesgo no procede únicamente de un posible error técnico, también puede surgir cuando una organización confía en una recomendación automatizada sin comprender cómo se ha generado, qué limitaciones presenta o qué personas pueden resultar perjudicadas.

La apariencia de objetividad de una puntuación o una clasificación no garantiza que la decisión sea justa.

 

La inteligencia artificial en la gestión de personas

Es precisamente en este marco donde la Inteligencia Artificial obliga a replantear su uso en la gestión de Recursos Humanos, como ya se adelantaba en nuestro artículo “Aprender a pensar: el trabajo en la era de la IA”, dado que insta a una adopción más responsable en este ámbito, en el que la supervisión humana esté más que presente.

El Reglamento considera de alto riesgo determinados sistemas destinados a publicar ofertas dirigidas a perfiles concretos, analizar y filtrar currículos, evaluar candidaturas o recomendar contrataciones. También incluye algunas herramientas utilizadas para adoptar decisiones sobre condiciones laborales, promociones o extinciones contractuales, asignar tareas en función del comportamiento individual y supervisar o evaluar el rendimiento de las personas trabajadoras. Estos usos aparecen recogidos en el anexo III del Reglamento.

No obstante, no cualquier herramienta utilizada por Recursos Humanos recibe automáticamente esta clasificación. Algunos sistemas pueden quedar fuera cuando se limitan a realizar tareas preparatorias o procedimentales, mejorar una actividad desarrollada previamente por una persona o detectar patrones sin sustituir ni influir de manera sustancial en la valoración humana (Artículo 6).

La diferencia principal se encuentra en el peso que la herramienta tiene sobre el resultado final. Cuanto mayor sea su capacidad para condicionar una decisión sobre una persona, mayores deberán ser las garantías. Antes de implantarla será necesario definir para qué se utilizará, qué decisiones podrá apoyar, qué datos procesará, cuáles son sus limitaciones y quién responderá por sus resultados.

 

¿Qué deberán hacer las empresas?

La incorporación de inteligencia artificial a Recursos Humanos no podrá tratarse como una simple compra tecnológica. La empresa deberá gobernar su uso durante todo el proceso: desde la elección de la herramienta y la revisión del proveedor hasta la comunicación con las personas afectadas y el seguimiento de los resultados.

Entre las principales actuaciones y obligaciones aplicables a las empresas que utilicen sistemas de IA de alto riesgo se encuentran (Artículo 26):

  • Identificar los sistemas utilizados y valorar su nivel de riesgo. La empresa deberá conocer qué herramientas emplea en selección, evaluación, promoción, asignación de tareas o supervisión del rendimiento, y comprobar que su finalidad de uso coincide con la clasificación y la documentación facilitadas por el proveedor.
  • Conocer las capacidades y limitaciones de la herramienta. Será necesario revisar la información facilitada por el proveedor sobre su finalidad, los datos que utiliza, la forma adecuada de interpretar sus resultados y los riesgos asociados. La empresa deberá utilizarlo conforme a dichas instrucciones y adoptar las medidas técnicas y organizativas adecuadas.
  • Revisar la calidad de los datos. Cuando controle los datos introducidos en el sistema, deberá procurar que sean pertinentes y suficientemente representativos para la finalidad perseguida, reduciendo así el riesgo de sesgos o discriminaciones.
  • Garantizar una supervisión humana efectiva. Esta función deberá encomendarse a personas físicas que tengan la competencia, la formación y la autoridad necesarias. Además, las personas responsables deberán prevenir el denominado sesgo de automatización, es decir, la tendencia a considerar correcta una respuesta por el mero hecho de haber sido generada por una tecnología.
    • Formar a los equipos implicados. Precisamente para garantizar el anterior punto, las empresas deberán formar a las personas que utilicen o supervisen estos sistemas, si no cuentan ya con dicha formación.
  • Informar a la representación de las personas trabajadoras. Antes de poner en servicio o utilizar un sistema de IA de alto riesgo en el lugar de trabajo, la empresa deberá informar a la representación legal y a las personas trabajadoras afectadas.
  • Informar a las personas trabajadoras afectadas. Cuando un sistema de alto riesgo tome o ayude a tomar decisiones relacionadas con personas físicas, la organización deberá informarles de que están expuestas a su utilización. Esta obligación puede alcanzar tanto a las personas trabajadoras como a quienes participan en procesos de selección.
  • Vigilar el funcionamiento del sistema. La organización deberá controlar su utilización conforme a las instrucciones, detectar posibles riesgos o incidentes y comunicar al proveedor o a las autoridades competentes los problemas relevantes. Si considera que el sistema puede generar un riesgo, deberá suspender su uso.
  • Conservar los registros de uso. Se establece que deberán conservarse los archivos de registro generados automáticamente por el sistema que estén bajo el control de la empresa durante un periodo adecuado y, con carácter general, durante al menos seis meses.

 

De la adaptación normativa a la gestión responsable

El verdadero cambio que introduce el Reglamento no consiste únicamente en añadir nuevos controles, sino en modificar la forma en que las organizaciones incorporan la tecnología a sus decisiones. La inteligencia artificial deja de ser una herramienta valorada solo por su capacidad para ahorrar tiempo o reducir costes y pasa a exigir una reflexión más amplia sobre sus efectos en las personas.

Este proceso requerirá una mirada multidisciplinar. Recursos Humanos no podrá abordar por sí solo todas las implicaciones de estos sistemas, del mismo modo que su gestión tampoco podrá quedar exclusivamente en manos de los departamentos tecnológicos.

El reto no consiste en decidir entre adoptar la inteligencia artificial o renunciar a ella. Consiste en aprender a utilizarla sin trasladarle responsabilidades que corresponden a las personas.

En definitiva, la inteligencia artificial puede convertirse en una aliada de la gestión de personas, pero no debería sustituir la responsabilidad humana que debe acompañar a toda decisión capaz de condicionar una trayectoria educativa o profesional.