Responsabilidad y cuestión de culpabilidad en el desarrollo de robots artificialmente inteligentes a través del ejemplo de la conducción automatizada

Abstract

Vehículos automatizados ya han recorrido millones de kilómetros en carreteras públicas como parte de pruebas extensas. Está previsto que los sistemas se vendan en el mercado regular antes de 2025. Se espera que aumente la seguridad y la movilidad, pero gran parte de la población desconfía de esta nueva tecnología. El progreso técnico puede ser imparable, pero a menudo se ignoran las consideraciones éticas. Una de las razones de ello es la omnipresencia de situaciones dilemáticas. Debido a la interpretación extrema y a la falta de realismo, muchos programadores prefieren evadir la discusión de los dilemas y, por lo tanto, la ética de las máquinas. No obstante, accidentes de vehículos automatizados ocurrirán inevitablemente, y la decisión de no considerar los aspectos éticos implícitamente incorpora estas actitudes éticas en los vehículos. Los fabricantes, al igual que la sociedad y los legisladores, deben informarse bien para tomar decisiones sobre la moral con la que quieren que actúen las máquinas. Los puntos de vista sociológicos varían entre las culturas y habrá que tenerlos en cuenta. No obstante, se debe preferir el razonamiento ético al sociológico debido a la volatilidad de la opinión de la sociedad. Se espera que el mercado siga creciendo, pero menos individuos serán propietarios de un vehículo. En cambio, los proveedores de servicios de transporte privados se llevarán una gran parte de los beneficios de la industria. Para asegurarse de que la ética de las máquinas será tan sofisticada como la tecnología de punta, el progreso debe hacerse de manera gradual. Al principio, se deben incorporar a los sistemas normas éticas claras. Sólo se debería aprovechar el aprendizaje automático cuando la investigación en esa área haya alcanzado logros sustanciales. La seguridad de los sistemas sigue siendo la máxima prioridad. Se puede esperar que la programación de los vehículos automatizados proporcione a la humanidad tanto sobre la inteligencia artificial como sobre sí mismos.

Automated vehicles have already travelled millions of kilometres on public roads as part of testing. It is expected that the systems will be sold on the regular market by 2025. The hope is for increased safety and mobility, but a large part of the population is very suspicious of the new technology. Technical progress may be unstoppable, but often enough ethical considerations are ignored. One of the reasons for this is the omnipresence of dilemma situations. Due to the extreme interpretation and lack of realism, many developers prefer to evade the topic of dilemmas and thus machine ethics. Nonetheless, automated vehicle accidents will inevitably occur, and choosing not to consider ethical aspects implicitly builds these ethical attitudes into the vehicles. Manufacturers, but also society and legislative must well-informedly make decisions concerning the morale they want machines to act on. Sociological points of view differ between cultures and will have to be taken into account. Nevertheless, ethical reasoning should be preferred over sociological due to the volatility of society’s opinion. The market is expected to keep growing, but less individuals will own their private vehicle. Instead, private transport service providers will claim a large share of the profits of the industry. To ascertain that machine ethics will be as sophisticated as the state of the art allows, progress should be made incrementally. In the beginning, clear ethical rules should be built into the systems. Machine learning should be taken advantage of only when research in that area has accomplished substantial achievements. Security of the systems remains to be the top priority. It can be expected that the programming of automated vehicles will tell humanity as much about artificial intelligence as about themselves.