Implicaciones éticas del uso de Inteligencia Artificial en procesos judiciales y su régimen de responsabilidad - Diaz Sanz, Paula

Abstract

Este trabajo de fin de grado analiza las implicaciones éticas derivadas del uso de la inteligencia artificial (IA) en el ámbito judicial, así como los desafíos que plantea en relación con el régimen de responsabilidad. A medida que la IA se integra progresivamente en los sistemas de justicia, surgen interrogantes fundamentales sobre su impacto en los principios de imparcialidad, transparencia y equidad. La investigación se centra en evaluar en qué medida estas herramientas pueden complementar e incluso llegar a sustituir ciertas funciones tradicionalmente desempeñadas por jueces. En concreto, se examinan casos actuales de aplicación de IA en procesos judiciales y se identifican los principales riesgos éticos asociados, como la opacidad algorítmica, los sesgos en los datos y la posible erosión de garantías procesales. A su vez, se aborda el vacío normativo existente en torno a la atribución de responsabilidad cuando una decisión automatizada produce un daño o vulnera derechos fundamentales que es crucial en El estudio de la ética de este tipo de herramientas.

El trabajo finaliza con las conclusiones de la investigación, centradas fundamentalmente en la posibilidad de sustituir la figura del Juez en los procesos penales y en la eventual implantación de sistemas predictivos relacionados con comportamientos delictivos, todo ello en consonancia con los principios éticos que deben regir su aplicación.

This undergraduate thesis analyzes the ethical implications arising from the use of artificial intelligence (AI) in the judicial sphere, as well as the challenges it poses in relation to the liability regime. As AI is progressively integrated into justice systems, fundamental questions emerge regarding its impact on the principles of impartiality, transparency, and fairness. The research focuses on assessing the extent to which these tools can complement—and even potentially replace—certain functions traditionally performed by judges. Specifically, current cases of AI application in judicial processes are examined, and the main associated ethical risks are identified, such as algorithmic opacity, data bias, and the potential erosion of procedural safeguards. Additionally, the study addresses the existing regulatory gap concerning the attribution of responsibility when an automated decision causes harm or violates fundamental rights, which is a crucial issue in the ethical evaluation of such tools.

The thesis concludes with the findings of the research, primarily focused on the possibility of replacing the figure of the judge in criminal proceedings and the potential implementation of predictive systems related to criminal behavior, all in accordance with the ethical principles that should govern their application.