Respeto de la autonomía humana

Abstract

El capítulo analiza el concepto de autonomía humana aplicado a la inteligencia artificial (IA), entendida como la capacidad de las personas para tomar decisiones libres, informadas y responsables, estrechamente vinculada a la dignidad humana, los derechos fundamentales y el funcionamiento de las sociedades democráticas; subraya que la autonomía solo puede atribuirse a los seres humanos, aunque en el contexto de la IA se produce una delegación parcial de decisiones en sistemas tecnológicos, lo que exige mantener siempre el control humano y la responsabilidad moral. Además, distingue tres dimensiones fundamentales: la autonomía cognitiva y emocional, relacionada con la capacidad de pensar críticamente y gestionar emociones y que puede verse amenazada por algoritmos que manipulan la información o generan burbujas de filtrado; la autonomía decisional y moral, que implica deliberar y actuar según valores propios y requiere supervisión humana significativa y la posibilidad de revertir decisiones automatizadas; y la autonomía informativa, centrada en el control sobre los datos personales y esencial para proteger la identidad y la privacidad. El capítulo también pone de relieve tanto los beneficios de la IA —como la mejora en la toma de decisiones, la personalización, la inclusión y el empoderamiento— como sus riesgos, entre ellos la manipulación, la pérdida de pensamiento crítico, la discriminación algorítmica y la dependencia tecnológica; y concluye proponiendo criterios éticos para garantizar una IA respetuosa con la autonomía, como evitar la manipulación, asegurar la transparencia y el consentimiento informado, garantizar la supervisión humana, permitir la impugnación de decisiones y proteger los datos y la identidad personal.

This chapter addresses the concept of human autonomy in the context of artificial intelligence (AI), understood as the ability to make free, informed, and responsible decisions, closely linked to human dignity, fundamental rights, and democratic systems. It highlights that autonomy belongs exclusively to humans, even though AI introduces a partial delegation of decision-making, making it essential to preserve human control and moral responsibility. The chapter identifies three key dimensions of autonomy: cognitive and emotional autonomy, related to critical thinking and emotional regulation and threatened by algorithmic manipulation; decisional and moral autonomy, which involves the capacity to deliberate and act according to personal values and requires human oversight and the possibility to reverse automated decisions; and informational autonomy, focused on controlling personal data and protecting identity and privacy. It also explores both the benefits of AI—such as improved decision-making, personalization, inclusion, and empowerment—and its risks, including manipulation, loss of critical thinking, algorithmic discrimination, and technological dependence. Finally, it proposes ethical criteria to ensure AI respects autonomy, such as avoiding manipulation, ensuring transparency and informed consent, maintaining human oversight, allowing individuals to challenge automated decisions, and protecting personal data and identity.