The use of AI in human resources management

Abstract

La inteligencia artificial está transformando la forma en que las organizaciones toman decisiones sobre sus personas — desde la selección de candidatos hasta la evaluación del desempeño y la gestión de despidos. Esta disertación examina esa transformación desde una perspectiva jurídica y empresarial combinada, preguntando dónde la IA aporta valor real a los procesos de recursos humanos, dónde genera riesgos legales y qué mecanismos de gobernanza pueden implementar las organizaciones para operar de forma responsable dentro del marco normativo aplicable. El análisis se basa en una revisión sistemática de la literatura académica y seis casos reales documentados — Amazon, Deliveroo Bolonia, SCHUFA, Uber Ámsterdam, HireVue y Workday — cada uno de los cuales ilustra un riesgo legal diferente: discriminación algorítmica, decisiones totalmente automatizadas sin supervisión humana genuina y opacidad. Estos riesgos se analizan a la luz del marco regulatorio europeo, compuesto por el RGPD, la Ley de IA de la UE, la LOPDGDD y la Ley 15/2022, que establecen conjuntamente tres barreras legales que toda organización debe respetar al desplegar IA en recursos humanos. La conclusión central es que los riesgos de la IA en recursos humanos no son inherentes a la tecnología en sí, sino a su despliegue sin gobernanza adecuada. En todos los casos documentados, el daño legal no surgió porque la herramienta fuera técnicamente defectuosa, sino porque se omitieron los pasos de gobernanza previos al despliegue. En respuesta, esta disertación propone un protocolo de cumplimiento estructurado en torno a cuatro fases de despliegue — recopilación y entrenamiento de datos, diseño del sistema, implementación y revisión de resultados — precedidas por una pregunta umbral previa al despliegue que la Ley de IA de la UE actualmente no aborda. El protocolo traduce las obligaciones legales existentes en acciones operativas concretas e identifica tres lagunas regulatorias que requieren atención legislativa o regulatoria.

Artificial intelligence is reshaping how organisations make decisions about their people — from screening candidates to evaluating performance and managing dismissals. This dissertation examines that transformation through a combined legal and managerial lens, asking where AI genuinely adds value to HR processes, where it generates legal risk, and what governance mechanisms organisations can implement to operate responsibly within the applicable framework. The analysis draws on a systematic review of academic literature and six documented realworld cases — Amazon, Deliveroo Bologna, SCHUFA, Uber Amsterdam, HireVue, and Workday — each illustrating a distinct legal risk: algorithmic discrimination, fully automated decisions without genuine human oversight, and opacity. These risks are mapped against the European regulatory framework, comprising the GDPR, the EU AI Act, the LOPDGDD, and Law 15/2022, which together establish three legal barriers any organisation must respect when deploying AI in HR. The central finding is that the risks of AI in HR are not inherent to the technology itself but to its ungoverned deployment. In every documented case, legal harm arose not because the tool was technically flawed but because governance steps were skipped before deployment. In response, this dissertation proposes a compliance protocol structured around four deployment phases — data collection and training, system design, implementation, and output review — preceded by a pre-deployment threshold question that the EU AI Act currently leaves unaddressed. The protocol translates existing legal obligations into concrete operational actions and identifies three regulatory gaps that require legislative or regulatory attention.