Herramientas de predicción criminal y su impacto en nuestro proceso penal* = CRIMINAL PREDICTION TOOLS AND THEIR IMPACT ON THE SPANISH CRIMINAL PROCESS

Abstract

El presente trabajo analiza el uso de herramientas de predicción criminal, prestando especial atención a sus implicaciones éticas y jurídicas. En una primera parte, se expone el origen y desarrollo de estas tecnologías en el contexto anglosajón, especialmente el uso del profiling y el predictive policing, y se examinan los riesgos inherentes a su aplicación, como la posible reproducción de sesgos discriminatorios y la afectación desproporcionada a colectivos vulnerables. Asimismo, se aborda la cuestión de la transparencia en el funcionamiento de los algoritmos y el tratamiento de datos personales. En una segunda parte, el estudio se centra en el contexto español, analizando el uso de dos sistemas predictivos concretos: el sistema VioGén, orientado a la evaluación del riesgo en casos de violencia de género, y RisCanvi, utilizado en el ámbito penitenciario catalán para valorar la peligrosidad de las personas privadas de libertad. A través del examen de estos ejemplos, se reflexiona sobre la tensión entre la utilidad preventiva de estas herramientas y la necesidad de salvaguardar los derechos fundamentales en el marco del proceso penal.

This paper analyzes the use of crimiminal prediction tools, focusing on their ethical and legal implications. The first part tackles origin and development of these technologies in the anglo-saxon context, highlighting the use of profiling and predictive policing, and examines the risks inherent in their use, such as the potential reproduction of discriminatory biases or the disproportionate impact on vulnerable groups. It also addresses the issue of transparency in the way the algorithm operates and the processing of personal data. In the second part, the paper focuses on the Spanish context, analyzing the use of two specific predictive systems: the VioGén system, aimed at risk assessment in cases of gender-based violence, and RisCanvi, used in the Catalan penitentiary system to assess the dangerousness of inmates. Through the examination of these examples, the paper reflects on the tension between the preventive usefulness of these tools and the need to safeguard fundamental rights within the framework of criminal proceedings.