Protección penal de menores y nuevas tecnologías: Análisis del art. 143 bis CP en la era de la Inteligencia Artificial

Abstract

El presente trabajo analiza la respuesta penal del ordenamiento jurídico español frente a los riesgos que los sistemas de inteligencia artificial generativa plantean para las personas vulnerables, en particular menores de edad y personas con discapacidad necesitadas de especial protección. El estudio se centra en el “caso Raine”, en el que un menor de dieciséis años mantuvo conversaciones con el chatbot ChatGPT-4o sobre pensamientos suicidas hasta acabar con su vida. A partir de ese caso, se examina si la conducta descrita puede subsumirse en el artículo 143 bis del Código Penal, concluyendo que no es posible con la redacción actual, debido a que el tipo exige la difusión pública de contenidos, mientras que las interacciones con estos sistemas se producen en canales privados.

Ante esa laguna, el trabajo propone reformas en tres planos: una modificación del artículo 143 bis CP para extender la tipicidad a los sistemas de IA generativa de carácter reiterado y sistemático; un análisis crítico del AI Act y de la Directiva sobre responsabilidad por productos defectuosos; y la creación de un nuevo artículo 143 ter que habilite la responsabilidad penal de las personas jurídicas desarrolladoras de estos sistemas. Se concluye defendiendo una respuesta articulada en los niveles penal, administrativo y civil.This paper analyses the criminal law response of the Spanish legal system to the risks that generative artificial intelligence systems pose to vulnerable individuals, particularly minors and persons with disabilities requiring special protection. The study focuses on the “Raine case”, in which a sixteen-year-old minor engaged in conversations with the ChatGPT-4o chatbot about suicidal thoughts before ultimately taking his own life. Based on this case, the paper examines whether the described conduct can be subsumed under Article 143 bis of the Spanish Criminal Code, concluding that this is not possible under its current wording, as the provision requires public dissemination of content, whereas interactions with such systems occur in private channels.

To address that gap, the paper proposes reforms on three levels: an amendment to Article 143 bis to extend criminal liability to generative AI systems operating in a repeated and systematic manner; a critical analysis of the AI Act and the Product Liability Directive; and the creation of a new Article 143 ter enabling corporate criminal liability for companies that develop and deploy these systems. The paper concludes by advocating a coordinated response across criminal, administrative, and civil law.