La IA y la proporcionalidad en la adopción de medidas cautelares en el proceso penal: riesgo de sesgos en la predicción de reincidencia o fuga, y su compatibilidad con el art. 17 CE y la presunción de inocencia.

Abstract

La expansión de la inteligencia artificial en el ámbito de la justicia penal ha abierto un debate especialmente delicado en torno a la compatibilidad entre innovación tecnológica y garantías procesales. La posibilidad de utilizar sistemas algorítmicos para evaluar el riesgo de fuga o reincidencia promete una mayor objetivación en la adopción de medidas cautelares personales, pero también plantea dudas acerca de su encaje en un proceso penal construido sobre la libertad personal, la presunción de inocencia y la proporcionalidad. En este contexto, el trabajo analiza la posible utilización de sistemas de IA como herramientas de apoyo al juez en la adopción de medidas cautelares personales. Para ello, se examinan, en primer lugar, los presupuestos de adopción de estas medidas en el proceso penal español, con especial atención al “periculum in mora” como presupuesto más susceptible de ser auxiliado por sistemas predictivos. A continuación, se analiza el marco normativo europeo y español aplicable, así como diversos sistemas de evaluación algorítmica del riesgo utilizados en otros ordenamientos y algunos precedentes españoles. El estudio concluye que, aunque la IA podría contribuir a reducir parte de la subjetividad judicial, su utilización también entraña riesgo de opacidad, sesgo, indefensión y automatización de la decisión, por lo que su eventual incorporación exigiría control humano efectivo, transparencia, validación científica y una reforma expresa de la LECrim.

The expansion of artificial intelligence within the criminal justice system has sparked a particularly sensitive debate regarding the compatibility of technological innovation with procedural safeguards. The possibility of using algorithmic systems to assess the risk of absconding or reoffending promises greater objectivity in the adoption of personal precautionary measures, but also raises doubts about their place within a criminal justice system built on personal liberty, the presumption of innocence and proportionality. In this context, this paper analyses the potential use of AI systems as tools to assist judges in the adoption of personal precautionary measures. To this end, it first examines the grounds for adopting these measures in the Spanish criminal justice system, with particular attention to ‘periculum in mora’ as the ground most likely to be supported by predictive systems. It then analyses the applicable European and Spanish regulatory framework, as well as various algorithmic risk assessment systems used in other legal systems and some Spanish precedents. The study concludes that, although AI could help to reduce some of the subjectivity in judicial decision-making, its use also entails risks of opacity, bias, lack of defence and the automation of decision-making; therefore, its eventual incorporation would require effective human oversight, transparency, scientific validation and an explicit reform of the Spanish Criminal Procedure Act.