La ley de IA en recursos humanos cambia la forma en que se usan algoritmos para contratar, evaluar o formar personal. Impone controles para garantizar decisiones justas, transparentes y supervisadas por humanos.

¿Cómo afecta la Ley de IA al sector de recursos humanos?

La Ley de IA y el Reglamento europeo 2024/1689 regulan el uso de la inteligencia artificial en la UE. En el sector de RRHH, esta normativa afecta directamente a cómo se utilizan sistemas de IA para contratar, evaluar o formar personal. Se trata de una normativa pionera en el mundo que clasifica los sistemas de IA por niveles de riesgo. En recursos humanos, muchos de estos sistemas se consideran de “alto riesgo”, por el impacto directo que tienen en las personas.

¿Cuándo están obligadas las empresas de RRHH a cumplir la Ley de IA?

Están obligadas a cumplir la Ley de inteligencia artificial aplicada a RRHH todas las empresas y entidades del sector que usen sistemas de IA en procesos de recursos humanos, siempre que:

  • Estén ubicadas en la Unión Europea.
  • Ofrezcan servicios o productos con IA dentro de la UE.
  • Sean responsables de su despliegue o funcionamiento.

Incluso si el sistema fue creado fuera de la UE, debe cumplir la normativa si se usa en Europa. La obligación se aplica tanto a proveedores como a quienes utilicen la IA en sus procesos laborales. También afecta a:

  • Consultoras de RRHH que ofrecen servicios basados en IA.
  • Empresas tecnológicas que venden soluciones de IA para RRHH.
  • Organizaciones públicas que automatizan parte de la gestión laboral.

No cumplir con la normativa puede conllevar importantes sanciones administrativas y económicas.

Cumplimiento de la Ley de Inteligencia Artificial en recursos humanos

¿Qué obligaciones se deben cumplir en relación con la inteligencia artificial en recursos humanos? ¿Qué deben hacer las empresas para cumplir con las exigencias de la Ley de IA a la hora de contratar personal, gestionar despidos o renovaciones de contratos o analizar el rendimiento laboral?

La solución de Atico34: Atico34 AI Governance es un software que ayuda a cumplir el AI Act o Ley de inteligencia artificial en cualquier departamento de la empresa, incluido en Recursos Humanos donde se suelen usar herramientas clasificadas de alto riesgo. Permite a las empresas cumplir la normativa en unos pocos pasos guiados por el propio software. Aparte, la empresa cuenta con el asesoramiento legal de los abogados expertos de Atico34, referencia en España en materia de protección de datos y compliance.

Obligaciones de las empresas que utilizan IA en RRHH

Todas las empresas que utilicen la inteligencia artificial en sus procesos de recursos humanos han de cumplir con las siguientes obligaciones:

  • Transparencia y comunicación
    • Informar a las personas candidatas y trabajadoras sobre el uso de sistemas de IA.
    • Explicar de manera clara y comprensible cómo funciona el sistema.
    • Permitir solicitar explicaciones sobre decisiones automatizadas.
  • Gestión de datos y prevención de sesgos
    • Asegurar datos relevantes, representativos y sin sesgos.
    • Implementar medidas correctoras ante sesgos detectados.
  • Supervisión humana y control
    • Garantizar supervisión humana adecuada.
    • Establecer procedimientos de intervención.
  • Evaluación de impacto y documentación
    • Realizar evaluaciones de impacto.
    • Mantener documentación sobre el funcionamiento del sistema.
  • Formación y alfabetización en IA
    • Formar adecuadamente al personal que interactúe con IA.
Obligación Descripción
Transparencia y comunicación Informar a las personas candidatas y trabajadoras sobre el uso de IA, explicar su funcionamiento y permitir solicitar explicaciones sobre decisiones automatizadas.
Gestión de datos y prevención de sesgos Asegurar que los datos sean relevantes y sin sesgos, e implementar medidas para corregir cualquier sesgo detectado en los resultados.
Supervisión humana y control Garantizar supervisión humana adecuada en decisiones automatizadas y establecer mecanismos para intervenir cuando sea necesario.
Evaluación de impacto y documentación Realizar evaluaciones de impacto sobre el uso de IA y mantener documentación sobre su funcionamiento y decisiones.
Formación y alfabetización en IA Proporcionar formación adecuada al personal que interactúe con los sistemas de IA para asegurar su comprensión y correcto uso.

Requisitos deben cumplir las soluciones de IA utilizadas en recursos humanos

Los sistemas de IA de alto riesgo en RRHH deben cumplir los siguientes requisitos:

  • Evaluación de conformidad previa a su uso.
  • Documentación técnica detallada sobre su funcionamiento.
  • Supervisión humana durante todo el proceso.
  • Medidas para minimizar riesgos y sesgos.
  • Sistemas de registro de datos y trazabilidad.

Además, deben proporcionar información clara a los usuarios y a los empleados afectados.

Por ejemplo: “Este sistema utiliza IA para evaluar su desempeño y será supervisado por una persona responsable”.

También deben permitir el control y la intervención humana en caso necesario.

Pasos deben seguir los departamentos de RRHH para adaptarse a la Ley de IA

Para adaptarse a la normativa de IA en recursos humanos los responsables de las empresas del sector deben:

  • Identificar si utilizan sistemas de IA de alto riesgo.
  • Clasificar cada herramienta según el nivel de riesgo legal.
  • Revisar contratos con proveedores tecnológicos.
  • Elaborar documentación técnica y de cumplimiento.
  • Formar al personal en supervisión y uso responsable de IA.

Además, deben coordinarse con los departamentos jurídicos y de protección de datos para asegurar el cumplimiento de la normativa y evitar infracciones.

Documentación deben tener preparada los responsables de RRHH

Toda empresa que use IA de alto riesgo debe disponer de:

  • Ficha técnica del sistema de IA.
  • Evaluación de riesgos e impacto sobre derechos laborales.
  • Protocolos de supervisión humana.
  • Registro de datos procesados por la IA.
  • Informe de conformidad del sistema.

También es recomendable tener disponibles hojas informativas para trabajadores, políticas internas de uso de IA, y mecanismos de reclamación o revisión humana de decisiones automatizadas.

Derechos tienen los candidatos y empleados ante decisiones automatizadas

La Ley protege a las personas frente a decisiones tomadas por IA. En RRHH, los empleados y candidatos tienen derecho a:

  • Ser informados de que se está usando un sistema de IA.
  • Conocer los criterios que utiliza la IA para evaluarles.
  • Solicitar revisión humana de decisiones que les afecten.
  • Reclamar si consideran que han sido discriminados.
  • Acceder a explicaciones claras sobre las decisiones tomadas.

Por ejemplo, si un algoritmo descarta un currículum, el candidato puede solicitar una revisión manual. Este enfoque refuerza la transparencia y el control humano.

Las empresas que usan IA en RRHH deben extremar precauciones: su aplicación en selección, evaluación o despidos puede implicar riesgos legales y éticos significativos si no se gestiona con transparencia y supervisión.

Prohibiciones establece la Ley

Las leyes de inteligencia artificial, tanto europeas como nacionales, establecen una serie de prácticas prohibidas en relación al uso de la inteligencia artificial en recursos humanos:

  • Reconocimiento de emociones
    Prohibido salvo motivos de salud o seguridad y norma legal expresa.
  • Sistemas biométricos de identificación remota en tiempo real
    Prohibidos salvo autorización legal específica.
  • Clasificación de personas por categorías sensibles
    Prohibido uso de IA con base en datos biométricos vinculados a características sensibles.
  • Sistemas que manipulan el comportamiento sin consentimiento consciente
    Prohibido uso de IA con técnicas subliminales o psicológicas no percibidas.
  • Sistemas de puntuación o evaluación social (social scoring)
    Prohibida la asignación de puntuaciones sociales con consecuencias discriminatorias.
Prohibición Descripción
Reconocimiento de emociones Prohibido el uso de IA para identificar emociones salvo por motivos de salud o seguridad y si está regulado por una norma legal expresa.
Sistemas biométricos de identificación remota en tiempo real Prohibido su uso generalizado en el trabajo salvo que exista una autorización legal específica.
Clasificación de personas por categorías sensibles Prohibido el uso de IA basada en datos biométricos vinculados a raza, religión, orientación sexual o ideología.
Sistemas que manipulan el comportamiento sin consentimiento consciente Prohibido el uso de IA que aplique técnicas subliminales o psicológicas para alterar decisiones sin que la persona lo perciba.
Sistemas de puntuación o evaluación social (social scoring) Prohibido asignar puntuaciones generales a trabajadores basadas en su conducta si pueden tener consecuencias negativas o discriminatorias.

Sanciones pueden recibir las empresas por un uso indebido de IA en RRHH

Las infracciones pueden ser sancionadas con multas proporcionales a la gravedad y al volumen de negocio. Algunas sanciones incluyen:

  • Multas económicas de hasta:
    • 35 millones de euros o 7 % del volumen de negocio para infracciones muy graves.
    • 15 millones o 3 % para infracciones graves.
    • 7,5 millones o 1,5 % para infracciones leves.
  • Medidas no pecuniarias:
    • Advertencias o apercibimientos.
    • Suspensión del sistema.
  • Casos graves:
    • Uso de IA prohibida.
    • No notificar incidentes.
    • Ignorar medidas correctoras.

Además, se puede ordenar la retirada o desconexión del sistema de IA. También se pueden aplicar medidas cautelares y requerimientos correctivos.

¿Cómo implantar IA en recursos humanos de forma legal y responsable?

Para un uso legal y ético de la IA en RRHH, se recomienda:

  • Elegir proveedores que cumplan la normativa europea, optando por software de IA para RR.HH. que cumplen el AI Act.
  • Implantar sistemas con supervisión y control humano.
  • Evaluar los riesgos y redactar planes de mitigación.
  • Formar a equipos en ética de la IA y cumplimiento legal.
  • Establecer canales de comunicación con empleados.

Es clave anticiparse a los requisitos legales y mantener una actitud proactiva en materia de transparencia y derechos laborales.

La IA puede transformar positivamente los recursos humanos, pero solo si se aplica con responsabilidad. Cumplir la ley no es una barrera, sino una oportunidad para construir relaciones laborales más justas y confiables.

Las sanciones por incumplimiento de la Ley de inteligencia artificial en RRHH pueden llegar a los 35 millones de euros o el 7% del volumen de negocio anual en el caso de las infracciones más graves.

¿Qué sistemas de IA en RRHH se consideran de alto riesgo según la Ley?

La Ley de IA en recursos humanos identifica como de alto riesgo los sistemas que pueden afectar significativamente los derechos de las personas. En recursos humanos, esto incluye:

  • Sistemas de selección automática de candidatos.
  • Herramientas que evalúan el desempeño o comportamiento de empleados.
  • Algoritmos que toman decisiones sobre ascensos, despidos o sanciones.
  • IA que planifica o asigna tareas o turnos automáticamente.
  • Sistemas que monitorizan en tiempo real a los empleados.

Estos sistemas deben cumplir requisitos adicionales, como evaluaciones de impacto, documentación detallada y mecanismos de supervisión humana para proteger los derechos de los trabajadores.

Principales usos de la IA en RRHH considerados de alto riesgo

Uso Ejemplo
Selección y contratación de personal Ejemplo: un algoritmo que filtra currículos automáticamente o realiza entrevistas mediante análisis de lenguaje corporal.
Promociones, despidos o renovaciones contractuales Ejemplo: una IA que recomienda despidos en función de datos de productividad o comportamientos detectados.
Evaluación del rendimiento laboral Ejemplo: programas que puntúan a las personas empleadas según métricas como tiempos de respuesta, errores o cumplimiento de objetivos.
Asignación de tareas Ejemplo: un sistema que reparte tareas según perfiles de comportamiento o datos históricos.
Monitoreo y supervisión del personal Ejemplo: sistemas que rastrean actividad digital, ubicación o interacciones durante la jornada laboral.

La actual normativa sobre inteligencia artificial considera que las empresas o departamentos de recursos humanos pueden realizar usos de alto riesgo de la inteligencia artificial en los siguientes casos:

  • Selección y contratación de personal
    Uso de IA para analizar, filtrar o clasificar candidaturas en procesos de selección laboral.
  • Promociones, despidos o renovaciones contractuales
    Aplicación de algoritmos que influyen o determinan decisiones sobre la continuidad, ascenso o cese del personal.
  • Evaluación del rendimiento laboral
    Implementación de sistemas que valoran el desempeño laboral mediante indicadores automatizados o criterios preestablecidos.
  • Asignación de tareas
    Utilización de inteligencia artificial para distribuir o asignar funciones y responsabilidades laborales.
  • Monitoreo y supervisión del personal
    Empleo de tecnologías que permiten la vigilancia del comportamiento, actividad o ubicación de las personas trabajadoras.

Recomendaciones para las empresas que usan inteligencia artificial en recursos humanos

  • Realizar un inventario de los sistemas de IA en uso.
  • Clasificar los sistemas según su nivel de riesgo.
  • Establecer políticas internas claras sobre el uso de IA.
  • Consultar con expertos legales y de protección de datos.
  • Fomentar una cultura de ética y transparencia tecnológica.
  • Garantizar la supervisión humana en decisiones relevantes.
  • Documentar el funcionamiento, decisiones y revisiones de la IA.

El uso de inteligencia artificial en recursos humanos debe gestionarse con responsabilidad, transparencia y supervisión constante para proteger los derechos laborales. Las empresas que implementen IA deben actuar con cautela, cumpliendo las normativas y fomentando entornos laborales justos, éticos y respetuosos con la dignidad humana.

Sectores afectados por la Ley de IA