Inteligencia Artificial y derecho en la evolución. hacia un tiempo de singularidad tecnológica: fundamentos éticos para una función legal en transformación

Abstract

El capítulo analiza la transformación de la función legal derivada de la incorporación de la inteligencia artificial, destacando que tecnologías como el machine learning, el big data y la IA generativa han redefinido tareas jurídicas tradicionales y marcan una transición hacia modelos de prestación de servicios más escalables (1:1, 1:n y 0:n), al tiempo que abren el debate sobre la futura evolución hacia una inteligencia artificial general o incluso una superinteligencia capaz de superar las capacidades humanas; en este contexto, la IA ya actúa como herramienta de apoyo en la administración de justicia, la abogacía y las funciones notariales y registrales, mejorando la eficiencia, reduciendo tiempos y ampliando el acceso al Derecho, pero también introduciendo riesgos relevantes como la opacidad algorítmica, la manipulación, la discriminación, la deshumanización de las decisiones o la dilución de responsabilidades. El texto subraya la necesidad de mantener el control humano significativo en las decisiones jurídicas, especialmente en aquellas que afectan a derechos fundamentales, y propone un marco ético basado en principios adaptativos: respeto a la dignidad humana, que exige preservar la intervención humana y evitar la cosificación; transparencia y explicabilidad, que garantizan el derecho a comprender y cuestionar las decisiones automatizadas; responsabilidad y control humano, que aseguran la rendición de cuentas y la posibilidad de corregir errores; y equidad y no discriminación, que obliga a prevenir sesgos y proteger la igualdad en el uso de algoritmos. Asimismo, identifica importantes vacíos normativos relacionados con la responsabilidad por decisiones automatizadas, la necesidad de estándares técnicos, la actualización de los códigos deontológicos y la regulación del uso ético de la IA, señalando que la integración tecnológica debe ir acompañada de mecanismos de supervisión, auditoría y gobernanza global. En última instancia, el capítulo concluye que la IA puede fortalecer el sistema jurídico si se utiliza como herramienta al servicio de la justicia, pero advierte que solo será legítima si mantiene al ser humano en el centro, preserva los derechos fundamentales y refuerza la confianza social en la función legal.

The chapter examines the transformation of the legal function driven by the integration of artificial intelligence, highlighting how technologies such as machine learning, big data, and generative AI are redefining traditional legal tasks and enabling more scalable service models (1:1, 1:n, and 0:n), while also opening the debate about future developments toward general artificial intelligence and even superintelligence capable of surpassing human abilities; in this context, AI already acts as a support tool in the administration of justice, legal practice, and notarial and registry functions, improving efficiency, reducing processing times, and expanding access to legal services, but also introducing significant risks such as algorithmic opacity, manipulation, discrimination, the dehumanization of decisions, and the dilution of responsibility. The chapter emphasizes the need to maintain meaningful human control, especially in decisions affecting fundamental rights, and proposes an ethical framework based on adaptive principles: respect for human dignity, which requires preserving human intervention and avoiding the objectification of individuals; transparency and explainability, which guarantee the right to understand and challenge automated decisions; responsibility and human oversight, which ensure accountability and the possibility of correcting errors; and fairness and non-discrimination, which demand the prevention of bias and the protection of equality. It also identifies important regulatory gaps related to liability for automated decisions, the need for technical standards, updates to professional ethical codes, and the governance of AI, stressing that technological integration must be accompanied by mechanisms of supervision, auditing, and global governance; ultimately, the chapter concludes that AI can strengthen the legal system if it is used as a tool in service of justice, but warns that it will only be legitimate if it keeps the human being at the center, preserves fundamental rights, and reinforces public trust in the legal function.