Operationalising AI ethics: how are companies bridging the gap between practice and principles? An exploratory study

Abstract

A pesar del aumento de la investigación en el campo de la ética en la inteligencia artificial, la mayoría de los esfuerzos se han centrado en el debate sobre los principios y directrices para una IA responsable, pero no se ha prestado suficiente atención al "cómo" de la ética aplicada. Este artículo pretende avanzar en explorar la brecha entre la práctica y los principios en la ética de la IA, identificando cómo las empresas están aplicando esas directrices y principios en la práctica. A través de una metodología cualitativa basada en 22 entrevistas semiestructuradas y dos grupos de discusión, el objetivo del presente estudio es comprender cómo las empresas abordan las cuestiones éticas relacionadas con los sistemas de IA. Un análisis estructurado de las transcripciones revela muchas prácticas y conclusiones reales, que se presentan en torno a los siguientes temas de investigación: ética y principios, privacidad, explicabilidad y equidad. Los entrevistados también plantearon cuestiones de responsabilidad y gobernanza. Por último, se sugieren algunas recomendaciones, como el desarrollo de normativas sectoriales específicas, el fomento de una cultura oragnizacional del dato, la consideración del ciclo de vida completo del algoritmo, el desarrollo y la utilización de un código ético específico y la impartición de formación específica sobre cuestiones éticas. A pesar de algunas limitaciones obvias, como el tipo y número de empresas entrevistadas, este trabajo identifica ejemplos reales y prioridades para avanzar en la investigación entre la práctica y los principios en la ética de la IA, con un enfoque específico en las empresas españolas.

Despite the increase in the research field of ethics in artificial intelligence, most efforts have focused on the debate about principles and guidelines for responsible AI, but not enough attention has been given to the “how” of applied ethics. This paper aims to advance the research exploring the gap between practice and principles in AI ethics by identifying how companies are applying those guidelines and principles in practice. Through a qualitative methodology based on 22 semi-structured interviews and two focus groups, the goal of the current study is to understand how companies approach ethical issues related to AI systems. A structured analysis of the transcripts brought out many actual practices and findings, which are presented around the following main research topics: ethics and principles, privacy, explainability, and fairness. The interviewees also raised issues of accountability and governance. Finally, some recommendations are suggested such as developing specific sector regulations, fostering a data-driven organisational culture, considering the algorithm’s complete life cycle, developing and using a specific code of ethics, and providing specific training on ethical issues. Despite some obvious limitations, such as the type and number of companies interviewed, this work identifies real examples and direct priorities to advance the research exploring the gap between practice and principles in AI ethics, with a specific focus on Spanish companies.