De la (bio)mejora individual a la (IA)mejora colectiva: asistentes morales artificiales en la era de los riesgos globales

Abstract

El gran desarrollo tecnológico que los seres humanos hemos alcanzado ha provocado riesgos y problemas nuevos en nuestra historia, como el cambio climático antropogénico o el posible uso de armas de destrucción masiva. Algunos teóricos han denunciado la inadecuación de nuestra psicología moral para hacer frente a estos nuevos problemas y defienden la necesidad de mejorarnos moralmente por medio de biotecnologías como psicofármacos, hormonas e ingeniería genética —lo que se conoce como biomejora moral. En este trabajo critico estas propuestas ser inadecuadas, insuficientes e innecesarias para evitar riesgos globales a corto o medio plazo, y trato de defender una forma de mejora moral más segura y viable por medio de la inteligencia artificial —denominada IAmejora moral. A partir de la propuesta de Lara y Deckers (2020) y de Lara (2021), defiendo el empleo de asistentes morales artificiales para mejorarnos moralmente con el fin de ayudarnos a reducir riesgos globales. Para ello, elaboro y aplico un marco heurístico que permita evaluar y aumentar su seguridad y eficacia, e introduzco cuestiones estructurales en el debate de la mejora moral, tratando introducir un nuevo enfoque que permita atender a la responsabilidad colectiva para la reducción de riesgos globales.The significant technological advancement that humans have achieved has caused new risks and problems in our history, such as anthropogenic climate change or the potential use of weapons of mass destruction. Some theorists have denounced the inadequacy of our moral psychology to address these novel problems and defend the need of moral enhancement through biotechnologies such as drugs, hormones, and genetic engineering —known as moral bioenhancement. In this work, I criticize these proposals as inadequate, insufficient, and unnecessary for preventing short to medium-term global risks. Instead, I strive to defend a safer and more viable form of moral enhancement through artificial intelligence —referred to as moral AIenhancement. Building upon the proposal by Lara and Deckers (2020) and Lara (2021), I advocate for the use of artificial moral assistants to improve our moral capacities with the aim of aiding in the reduction of global risks. To achieve this, I develop and apply a heuristic framework that enables the evaluation and improvement of their safety and efficacy. Additionally, I introduce structural considerations into the moral enhancement debate, seeking to introduce a new perspective that addresses collective responsibility in the context of global risks reduction.