Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ Neuroetica y neuroderechos nEuroEthics and nEurorights EnriquE cácErEs niEto1; javiEr diEz garcía2; Emilio garcía garcía3 Resumen: Las relaciones entre neurociencia y ética confor- man un complejo campo de investigación interdisciplinario, denominado neuroética. Analizamos la neuroética en su do- ble dimensión: Ética de la neurociencia, que se ocupa de los problemas éticos, y sociales, asociados a la investigación y aplicaciones de la neurociencia; Neurociencia de la ética, que investiga los sistemas neurales, así como los procesos mentales que están a la base de la intuiciones, juicios y comportamien- tos morales. En forma análoga a la neuroética, el neurodere- cho se ocupa de la regulación jurídica de la investigación y práctica neurocientífica; el papel de las neurociencias en el razonamiento probatorio; y el estudio de la actividad neuro- cognitiva de los operadores jurídicos. Desde la Ética de la neu- rociencia, proponemos cinco Neuroderechos, cuyo objetivo es impedir que los Derechos Humanos se vean afectados por la aplicación de avances neurocientíficos: Derecho a la pre- servación de la identidad personal, Derecho a la no interfe- rencia en la libertad de decisión, Derecho a la privacidad de 1 Investigador titular “C” de tiempo completo del Instituto de Investigaciones Jurídicas, UNAM. Contacto: . ORCID: . 2 Doctor en Derecho. Profesor de Derecho en la Universidad Nacional Autó- noma de México. Contacto: . ORCID: . 3 Doctor en Filosofía y Letras por la Universidad Complutense Madrid, España. Profesor honorífico de Psicología y Neurociencia en la UCM. Contacto: . ORCID: . Fecha de recepción: 05 de abril de 2021; fecha de aprobación: 08 de junio de 2021. 38 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ datos neuronales, Derecho a la equidad en el mejoramiento de la capacidad cerebral, Derecho a la protección frente a los sesgos de los algoritmos. Asimismo, proponemos que dichos derechos sean positivizados mediante su incorporación a Tra- tados internacionales, como parte de una cuarta generación de Derechos Humanos y sean desarrollados a nivel legislativo. De esta manera se agrega al derecho de las neurociencias una nueva tarea: la de implementar la protección jurídica de lo que podríamos llamar “neuroderechos humanos”. PalabRas clave: Neurociencia, Neuroética, Ética de la Neurociencia, Neurociencia de la Ética, Neuroderechos, Neuroderecho. abstRact: The relationships between neuroscience and eth- ics make up a complex interdisciplinary research field, called Neuroethics. We analyze neuroethics in its double dimension: Ethics of neuroscience, which deals with ethical, legal and social problems, associated with research and applications of neuroscience; Neuroscience of ethics, which investigates the neural systems and mental processes that ground the intu- itions, judgments and moral behaviors. We propose five Neu- ro-rights to incorporate into Human Rights and international Treaties: Right to personal identity, Right to free will, Right to privacy, Right to equal access to brain augmentation ad- vances, Right to protection against algorithmic biases. Key woRds: Neuroscience, Neuroethics, Ethics of Neuroscience, Neu- roscience of Ethics, Neuro-rights sumaRio: I. Introducción. Neurociencia y Neuroética; II. Ética de la Neurociencia; III. Neurociencia de la Ética; IV. Neuroderechos; V. Neuroderecho, neuroderechos y neurode- rechos; VI. Conclusión; VII. Fuentes consultadas. 39 Enrique Cáceres Nieto, Javier Diez García, Emilio García García i. introducción. nEurociEnciA y nEuroéticA En las últimas tres décadas vivimos inmersos en la revolución científica de la neurociencia. Los conocimientos del sistema nervioso, y particularmente del cerebro, han logrado tales desarrollos que pueden ser comparables a los avances en la física, a principios del siglo XX, y la biología en la década de 1950. El ce- rebro humano ha sido el protagonista de todas las revoluciones, ha logrado todos los conocimientos y saberes, las matemáticas, ciencias naturales, ciencias sociales, humanidades, tecnologías, artes. Pero el cerebro, que tanto ha conocido y conoce, ha sido el gran desco- nocido. Ahora estamos avanzando en su estudio y comprensión. A diferencia de otras revoluciones científicas, que se han ocupado del mundo exterior, como física o cosmología, la neurociencia centra su interés en nosotros mismos, nuestra mente, nuestro cerebro, el ór- gano que hace posibles todas las demás revoluciones. La neurocien- cia nos proporciona una oportunidad nueva para comprender la mente y comportamiento, nuestra identidad, y no sólo observando la conducta desde el exterior, sino también gracias al estudio de la organización funcional del cerebro. Por primera vez en la historia, nuestra especie tiene la posibilidad de mirar hacia atrás y a sí mis- ma, de entender sus orígenes y también conocer quién es el agente consciente y libre encargado de comprender. 4 La nueva revolución que estamos viviendo está caracterizada por el prefijo “neuro”. Así, en el campo biomédico, neurobiolo- gía, neuroanatomía, neurología, neurofisiología, neuropsicología, neuropsiquiatría, neurofarmacología. En las ciencias sociales, neu- roderecho, neuropolítica, neurocriminología, neuroeconomía, neu- rosociología, neuromarketing, neuropedagogía, neurodidáctica, neuroeducación, neurocultura. En la filosofía y las humanidades, neurofilosofía, neuroética, neuroepistemología, neuroestética, neu- 4 Changeux, J-P., Sobre lo verdadero, lo bello y el bien, Madrid, Katz Editores, 2010; Ramachandran, V., Lo que el cerebro nos dice, Barcelona, Paidos, 388, 2012. 40 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ rorreligión, neurofenomenología, neurodeterminismo, neurorrea- lismo, neuroesencialismo, neuroexistencialismo. Si el cerebro es la base de los procesos mentales y las actividades humanas, no es de extrañar que, en las diversas ciencias de la vida, de la sociedad y las humanidades, la perspectiva de la neurociencia sea omnipresente y surjan nuevos campos de estudio.5 Las relaciones entre la ética y la neurociencia han conformado un complejo campo de estudio, de carácter interdisciplinario, deno- minado “Neuroética”. La Conferencia mundial sobre Neuroética, patroci- nada por la Fundación Dana, celebrada en San Francisco, en mayo de 2002, convocó a neurocientíficos, médicos, expertos en técnicas de neuroimagen, derecho y humanidades, responsables políticos y representantes de medios. En esta conferencia toma carta de natu- raleza la neuroética entendida en su doble acepción, como la “ética de la neurociencia”, que se ocupa de los problemas éticos, sociales y legales, asociados al desarrollo de la investigación en neurociencia y sus aplicaciones. La otra acepción es la “neurociencia de la ética” que se propone investigar los sistemas neurales que están a la base de las intuiciones, juicios y comportamientos morales, y dar cuenta de la conciencia, autoconciencia, libertad, responsabilidad, mente social, emociones, empatía.6 La neurociencia de la ética se puede considerar como neuroé- tica básica. Pretende comprender quienes somos, cómo pensamos y sentimos, qué nos motiva, por qué nos comportamos, por qué desarrollamos las estructuras sociales y culturales. La ética de la neurociencia es una neuroética aplicada. Plantea analizar las impli- caciones, oportunidades y riesgos que conllevan las investigaciones en neurociencia, neuroimagen, neurofarmacología, mejoramiento 5 Mora, F., Neurocultura, Madrid, Alianza Editorial, 2007; Illes, J., “Neurologisms”, American Journal of Bioethics-Neuroscience, 2009; Cortina, A. (Ed), Guía Comares de Neurofi- losofía práctica, Granada, Editorial Comares, 2012. 6 Marcus, S., Neuroethics: Mapping the field, New York, Dana Press, 2002; Roskies, A., “Neuroethics for the new millennium”, Neuron, 35, 21-23, 2002. 41 Enrique Cáceres Nieto, Javier Diez García, Emilio García García cerebral, etc. Uno de los problemas nuevos de la ética contempo- ránea, es el establecer una sinergia entre las disposiciones neurales para la empatía, altruismo, cooperación, y las normas y códigos morales; entre la neurociencia y la ética; entre la teoría evolucionis- ta, el progreso histórico-cultural y desarrollo personal. 7 El cerebro-mente del ser humano es resultado de un largo y com- plejo proceso evolutivo. En la perspectiva filogenética, a lo largo de millones de años, surgieron unas capacidades cognitivas, afectivas y sociales en nuestra especie. La capacidad de cuidar y empatizar, de sentir compasión, de cooperar, de atribuir estados mentales a los otros y reconocer las peculiaridades de los estados mentales propios, permite valorar las consecuencias de las acciones para el bienestar o malestar de nuestros semejantes. Esta capacidad mentalista posi- bilita el comportamiento social y moral. La moralidad se asienta en la sociabilidad, que es característica de la naturaleza humana, pero que es una conquista evolutiva de millones de años de evolución de las especies, particularmente de los mamíferos.8 Para la neurociencia los procesos mentales son propiedades fun- cionales del sistema nervioso, particularmente el cerebro, de seres vivos suficientemente complejos. En el ser humano la mente es pro- piedad emergente de la interacción entre genes, cerebro y cultu- ra. Nuestra especie ha desarrollado unas capacidades cognitivas, emocionales, lingüísticas y sociales singulares, que le han permitido la comunicación e interacción social, la creación y transmisión de la cultura, la identidad y el desarrollo personal. La capacidad de empatía, cooperación y altruismo, la capacidad de atribuir men- 7 Illes, J., Neuroethics, Oxford, University Press, 2006; Levy, N., Neuroethics, New York, Cambridge University Press, 2007; Evers, K., Neuroética. Cuando la materia se despierta, Madrid, Katz Editores, 2010; Garcia Ruiz, P. y Sanchez Barajas, M. (Coord.), Natura- lizar la filosofía práctica. La ética en dialogo con las neurociencias, México, UNAM, 2019; Feito Grande, L., Neuroética. Cómo hace juicios morales nuestro cerebro, Madrid, Plaza y Valdés, 2019. 8 De Waal, F., Bien natural. Los orígenes del bien y del mal en los humanos y otros animales, Barcelona, Herder, 1997; De Waal, F., La edad de la empatía, Barcelona, Tusquets, 2015. 42 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ te a los demás, de interpretar y predecir la conducta de los otros, y colaborar para lograr objetivos compartidos (también engañar), posibilitan el desarrollo personal y la evolución sociocultural. Jun- to con la capacidad de empatizar y colaborar los humanos hemos conseguido, gracias al lenguaje compartido, generar relatos, imagi- nar otros mundos, adentrarnos en territorios inexplorados, lo que es básico para la vida en sociedad y desarrollo cultural. A su vez, las conquistas culturales, artefactos, símbolos, tradiciones, institu- ciones, normas y códigos morales moldean el cerebro a lo largo de toda la vida, conformado el conectoma propio de cada individuo, sus procesos mentales e identidad personal.9 Uno de los retos más difíciles y apasionantes que tiene la neuro- ciencia en la actualidad es comprender y explicar la extrema com- plejidad del cerebro, identificar y mapear las redes neuronales que lo conforman, avanzar en el estudio desde las distintas perspectivas, desde el análisis de moléculas y neurotransmisores, a los circuitos, redes neuronales y conectoma global. El conectoma es el conjunto de conexiones entre las neuronas del sistema nervioso de un or- ganismo. El estudio del conectoma del cerebro comprende desde el nivel más micro de análisis, que investiga las conexiones entre las neuronas en un área limitada del cerebro, hasta el estudio a nivel más macro, que comprende la organización del conjunto de las neuronas y sus conexiones entre todas las áreas corticales y sub- corticales del cerebro, en el intento de obtener la red global de un cerebro dado. A lo largo de nuestra vida, etapa fetal, infancia, adolescencia, madurez y vejez, la identidad cambia, porque el conectoma cambia y se modifica con el tiempo. Las neuronas, como la especie de ár- boles microscópicos que son, pueden tener nuevas ramas y perder 9 Tomasello, M., Los orígenes culturales de la cognición humana, Buenos Aires, Amorror- tu, 2007; Garcia Garcia, E., “Desarrollo de la mente: filogénesis, sociogénesis y onto- génesis”, en M. Maceiras y L. Mendez (Ed.), Ciencia e investigación en la sociedad actual. Salamanca: San Esteban Editorial, 95-128, 2010. 43 Enrique Cáceres Nieto, Javier Diez García, Emilio García García otras. Se pueden crear sinapsis y se pueden eliminar otras. Estos cambios en el conectoma humano están, hasta cierto punto, pro- gramados por los genes, pero también dependen del ambiente y las experiencias. La actividad neuronal continuamente está cambiando y modificando las conexiones para responder a las exigencias del medio y resolver los problemas de adaptación. En este sentido, las experiencias cambian nuestro conectoma, razón por la cual, cada conectoma es único, y es el resultado de la interacción entre natu- raleza y crianza, entre genes y medio ambiente. 10 Conectoma, Genoma y Epigenoma son estrechamente interde- pendientes. El conectoma cerebral se basa en la expresión de los genes y los procesos epigenéticos. Por ello, cada vez más se busca la integración de los descubrimientos de la neurogenética con la epi- genética, y con los mapas y sistemas de redes que proporcionan las tecnologías de neuroimagen. La neurociencia ha avanzado en pocos años desde la investigación y conocimientos anatómicos y fisiológi- cos, al estudio de las sinapsis, circuitos, redes y sistemas cerebrales. Este desarrollo ha sido posible gracias a las técnicas de neuroima- gen y a los avances en la capacidad computacional e inteligencia artificial, así como al análisis matemático de redes y teoría de gra- fos. El objetivo es comprender y explicar la enorme complejidad de la red global y subredes cerebrales, y conseguir una teoría cada vez más elaborada del funcionamiento cerebral. La red global integra múltiples subredes específicas, que continuamente están activas y cambiando. El estudio de la actividad espontánea y de la activi- dad asociada a estímulos externos o ejecución de tareas es objeto de investigación con tecnologías de neuroimagen, como resonancia magnética funcional, resonancia magnética de difusión, electroen- cefalograma y magnetoencefalograma, entre otras.11 10 Seung, S., Conectoma. ¿Cómo las conexiones neuronales determinan nuestra identidad? Bar- celona, RBA, 2012. 11 Sporns, O., Networks of the Brain, Massachusetts, MIT Pres, 2016. 44 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ La red global del cerebro integra múltiples subredes específicas en diferentes áreas cerebrales. Hay áreas que presentan gran conec- tividad intra área, lo que se denomina conectividad intracortical, mientras que otras áreas están muy interconectadas entre sí en co- nectividad intercortical. Así, la conocida diferenciación anatómica propuesta por Korbinian Brodmann se complementa con los mapas de redes y especialización funcional en distintas áreas y núcleos del encéfalo. Además de las subredes en la corta distancia, también hay conexiones entre neuronas o grupos neuronales más distantes, per- mitiendo suponer que neuronas en una zona específica local están en contacto e intercambiando información con otras neuronas, o circuitos, más alejados y diferenciados. Lo que hace que las funcio- nes cerebrales y procesos mentales sean el resultado de interaccio- nes funcionales entre áreas muy distribuidas por todo el cerebro. La teoría de grafos proporciona una metodología muy heurística para el estudio de la dinámica cerebral, al pretender no solamente establecer la conectividad entre regiones, sino también detectar la direccionalidad y secuencia temporal de sus interacciones. El grafo es un constructo teórico compuesto por nodos y conexiones. Los nodos, o hubs, corresponden a los circuitos neuronales, y las co- nexiones son la conectividad estructural propia de los tractos de axones o sustancia blanca y la conectividad funcional. La teoría de grafos destaca tres propiedades del funcionamiento de la red cere- bral: centralidad, segregación e integración. La centralidad repre- senta las conexiones inmediatas de un nodo determinado, así como su valor clave en la conexión con otros nodos. La segregación e integración hacen referencia a la formación de grupos dentro de las redes y permite visualizar cómo están agrupadas e interconectadas en subredes específicas. La red global cerebral está formada por to- das las neuronas, sinapsis, circuitos, subredes y sistemas que interco- nectan las diferentes áreas y centros de sustancia gris del cerebro. 12 12 Sepulcre, J., Redes cerebrales y plasticidad funcional, Barcelona, Emse Edapp, 2018. 45 Enrique Cáceres Nieto, Javier Diez García, Emilio García García Una gran innovación del estudio está en proporcionar un al- goritmo para delinear áreas corticales a escala individual, que es una tarea más compleja que lograr un mapa medio del cerebro. Este planteamiento proporcionará conocimiento importante para determinar biomarcadores de disfunción y trastorno cerebral, y al mismo tiempo un valor predictivo de las diferencias individuales en la conducta normal y patológica, y en las disfunciones y trastornos mentales. Tendremos una neurociencia cada vez más orientada al individuo, más personalizada. Si la neuroplasticidad, las neuronas y sus múltiples conexiones y redes neuronales, el conectoma, ha- cen posible los aprendizajes y memorias, podemos decir que somos nuestro conectoma. Al igual que todos tenemos un genoma especí- fico y diferencial, también disponemos de un conectoma, una con- formación neural única y propia.13 La complejidad del cerebro es impresionante, con estimaciones de cien mil millones de neuronas, una media de 10.000 conexiones por neurona, y mil billones de conexiones. La estimación de la lon- gitud de los axones llegaría a 150.000 km. El primer conectoma dis- ponible es de un gusano que tiene 300 neuronas y 7.000 conexiones. Para lograrlo S. Brenner y su equipo necesitó diez años de trabajo. Brenner obtuvo el premio Nobel en 2002. Avances en tecnologías y modelos de investigación están reduciendo extraordinariamente los plazos y costes en el estudio del conectoma de otras especies. Las investigaciones en neurociencia se realizan con tecnologías muy complejas y sofisticadas según los diferentes niveles de análi- sis, desde el nivel más micro y molecular, al macro de las redes y sistemas neuronales de todo el cerebro. En la actualidad hay ambi- ciosos proyectos en marcha: Proyecto Conectoma Humano y Pro- yecto BRAIN, ambos en EEUU, y Proyecto Cerebro Humano, en Europa. El objetivo común es conocer más sobre la estructura y organización funcional del cerebro, cartografiar o mapear el cere- 13 Seung, op. cit. 46 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ bro y lograr la descripción más completa posible de su estructura y funcionamiento a los distintos niveles señalados. En otros países, particularmente China, Japón, Australia Canadá se desarrollan ma- croproyectos similares. El Proyecto Conectoma, aprobado y financiado por varias insti- tuciones y organismos de EEUU, está patrocinado por los Institutos Nacionales de la Salud de los Estados Unidos y se propone iden- tificar y mapear las conexiones y redes neuronales del cerebro. El nombre conectoma, identificación y mapeado de conexiones, evoca el genoma, referido a los genes, o el proteoma referido a las proteí- nas. El proyecto es muy ambicioso y necesita avances en las tecnolo- gías para su realización, lo que ya se están logrando, en parte. En el Proyecto Conectoma participan equipos de investigación de nume- rosas universidades y países, Universidad de Washington, Minneso- ta, Oxford, Londres, entre otras, con el objetivo de cartografiar la totalidad de conexiones nerviosas en el cerebro, y también la rela- ción entre genes, conectoma, procesos mentales y comportamiento. Las tecnologías de investigación más utilizadas hasta el momento son la resonancia magnética funcional, la resonancia magnética de tensor de difusión y la magnetoencefalografía. 14 Diversas investigaciones han confirmado que cada persona dis- pone de un perfil de conexiones característico, y que estos neuro- perfiles personales pueden revelar información sobre las capacida- des mentales, el funcionamiento normal o alterado. En un estudio realizado por varios autores, de distintas universidades y países, publicado en la prestigiosa revista Nature, se definen distintas regio- nes en la corteza cerebral, utilizando una combinación de técnicas que hasta el momento solo se habían empleado por separado, como la resonancia magnética funcional basada en tareas, la resonancia magnética funcional en estado de reposo, y la resonancia magné- 14 Instituto de Informática y Neuroimagen de la USC Mark y Mary Stevens, El proyecto del conectoma, University of Southern California. Disponible en: www.humancon- nectomeproject.org. 47 Enrique Cáceres Nieto, Javier Diez García, Emilio García García tica por tensor de difusión. El resultado ha dado una cartografía cerebral que identifica 180 áreas en cada hemisferio, lo que pro- porciona, por tanto, un atlas del cerebro humano con 360 zonas. Estas regiones podrían subdividirse además en unidades menores. La aparición de nuevas tecnologías con mayor sensibilidad propor- cionará información de nuevas áreas.15 (Glasser et al. 2016). El Proyecto Cerebro Humano se pone en marcha en 2013 y se planteó, en principio, para una década. Es un proyecto médico-cien- tífico y tecnológico financiado por la Unión Europea, que tiene como fin reproducir tecnológicamente las características del cere- bro humano, y de esta forma conseguir avances en el campo de la medicina, la neurociencia, la inteligencia artificial y la robótica. Es un proyecto neurocientífico muy ambicioso, con subproyectos muy complejos, con más de 150 centros de investigación de la Unión Eu- ropea, y con presupuesto multimillonario, que se va incrementan- do cada año. Su objetivo es desarrollar tecnologías y métodos que posibiliten comprensión y explicación del funcionamiento cerebral. Para que este proyecto pueda desarrollarse es necesaria la inves- tigación en nuevas tecnologías de supercomputación, que permi- tan utilizar la información en modelos informáticos y simulaciones del cerebro para identificar patrones y principios organizativos, de modo que se puedan integrar los resultados de miles de investiga- ciones con diversas tecnologías y distintos niveles de análisis, desde el molecular a los sistemas cerebrales. 16 Se ha iniciado con seis plataformas de investigación: neuroinfor- mática, simulación del cerebro, computación de altas prestaciones, informática para la medicina, computación neuromórfica y neuro- rrobótica. La misión de la plataforma neuroinformática consiste en procesar la máxima cantidad de información e integrarla en una cartografía que comprenda distintos niveles del funcionamiento del 15 Glasser, M. et al., “A multi-modal parcellation of human cerebral cortex”, Nature, 536, 171-78, 2016. DOI: 10.1038/nature18933. 16 Proyecto Cerebro Humano. Disponible en: https://www.humanbrainproject.eu/en/. 48 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ cerebro humano: el genoma, la célula, las redes neuronales, áreas cerebrales y el cerebro entero. La información permitirá desarrollar la plataforma de simulación del cerebro. La plataforma médico-in- formática se encarga de desarrollar metodologías para el diagnósti- co de enfermedades neurológicas, de forma rápida y personalizada. Esta plataforma trabajará con datos de miles de pacientes, en co- laboración con hospitales y empresas farmacéuticas. La plataforma de computación se plantea lograr nuevas tecnologías inspiradas en el funcionamiento cerebral, por ejemplo, desarrollar chips que imi- ten redes neuronales. La plataforma neurorrobótica centrará sus trabajos en integrar la simulación de redes neuronales en robots con gran capacidad y flexibilidad de aprendizaje y memoria. El proyecto europeo quiere aprovechar todos los datos para crear simulación del cerebro y robots de alto rendimiento. Los proyectos americanos y el proyecto europeo no tratan de competir para alcan- zar la luna como sucedió en tiempos pasados, entre Estados Unidos y la Unión Soviética, por eso cabe esperar intercambio de informa- ción y colaboración entre investigadores. El problema a corto plazo está en la limitación de proceso y cálculo de los ordenadores, que no tienen capacidad para procesar la enorme cantidad de datos que los proyectos proporcionan. Una de los superordenadores más potentes está en Japón, y es capaz de simular la actividad de mil ochocientos millones de neuronas conectadas a través de diez mil millones de sinapsis. Piénsese en lo lejos que está de los cien mil millones de neuronas y mil billones de conexiones del cerebro humano. Se es- pera que en la próxima década estén disponibles superordenadores mucho más potentes. El proyecto BRAIN (Brain Research through Advacing Innovative Neoro- technologies) fue propuesto por el entonces presidente de EE UU, B. Obama, en 2013, con presupuesto multimillonario y para una dé- cada. Es una iniciativa catalogada como el equivalente del Proyecto del Genoma Humano. En este proyecto ha desempeñado un papel clave el español, investigador en la universidad de Columbia, Ra- 49 Enrique Cáceres Nieto, Javier Diez García, Emilio García García fael Yuste.17 Se propone descifrar la estructura cerebral para enten- der sus funciones y procesos mentales: la percepción, la atención, el aprendizaje, la memoria, el lenguaje, el pensamiento, las emociones. El proyecto europeo y el norteamericano tienen objetivos parcia- mente diferentes, pero ambos constituyen apuestas muy ambiciosas, y dotadas de sobresalientes recursos institucionales, económicos y personales. La apuesta para resolver el problema fundamental de la neurociencia está en cómo se organizan y funcionan miles de millones de neuronas y billones de conexiones, hasta formar redes neuronales y sistemas cerebrales que posibilitan los procesos men- tales. Para acercarse a estos objetivos se requieren instrumentos de alta tecnología y ámbitos diversos como la genética, la óptica, la nanotecnología, la biología molecular18. Se están logrando avances tecnológicos muy importantes, como la posibilidad de estimular, mediante luz, neuronas específicas, in- cluso en las profundidades de los cerebros de animales. Los métodos optogenéticos combinan avances genéticos y ópticos, y se basan en la inserción en las neuronas de genes exógenos que codifican pro- teínas sensibles a la luz. La investigación se realiza en animales, como gusanos y ratones. Por ejemplo, en una investigación con la optogenética, para estudiar la amnesia, se utilizaron dos grupos de ratones, uno sano y otro genéticamente modificado, incapaz de re- cordar. Colocados en una caja donde recibían descargas eléctricas, los ratones sanos aprendían por condicionamiento operante a evitar esas descargas, pero los transgénicos olvidaban lo experimentado y no podían recordar. Se activó mediante optogenética las neuronas del hipocampo de los ratones amnésicos, y consiguieron superar la amnesia. También se investiga, en ratones, las funciones de la amíg- dala en la memoria de experiencias de miedo, y en las reacciones ante estímulos peligrosos y nocivos. 17 Se pueden consultar en la RED interesantes publicaciones y videos de Rafael Yuste. 18 La Iniciativa BRAIN. Disponible en: www.braininitiative.org/. 50 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ La investigación optogenética está todavía en una fase experi- mental con animales, y necesitará más investigación y ensayos clí- nicos hasta que sea aplicable en humanos. Las posibilidades de la optogenética para la potenciación, recuperación de las capacidades y terapias son muy prometedoras pues, simplemente con luz y sin aplicar corrientes eléctricas, se conseguirían resultados positivos en el tratamiento de determinados trastornos, como fobias, trastornos obsesivo–compulsivos, estrés postraumático. Otras técnicas para investigar e intervenir en las funciones cere- brales y procesos mentales son la estimulación magnética transcra- neal y la estimulación cerebral profunda. La primera es una técni- ca no invasiva que estimula mediante campos magnéticos las redes neuronales de determinadas áreas cerebrales. Se han realizado es- tudios sobre memoria, déficit de atención e hiperactividad, funcio- nes ejecutivas y se plantea si los resultados de mejoras podrían ser aplicables a personas normales. La estimulación cerebral profunda es una técnica muy invasiva, pues consiste en introducir electrodos en el interior del cerebro, conectados a una batería o neuroestimu- lador, para activar determinadas redes neuronales responsables de procesos mentales alterados. Se están realizando estudios e inter- vención con personas afectadas de patologías diversas, como Par- kinson, depresión, psicosis, trastorno bipolar.19 ii. éticA dE lA nEurociEnciA En la Conferencia mundial sobre neuroética, de San Francisco, se caracterizó la ética de la neurociencia como el estudio de las cuestio- nes éticas, legales y sociales que surgen cuando los descubrimientos 19 Zorzo, C., Banqueri, M., Higarza, S., Pernia, A., Arias, J., “Estado actual de la estimulación magnética transcraneal y sus aplicaciones en psiquiatría” Actas Españolas de Psiquiatría, 47 (3), 110-121, 2019; Vazquez-Bourgon, J., Martino, J., Sierra, M., et al, “La estimulación cerebral profunda en el trastorno obsesivo-compulsivo. Una re- visión sistemática” Revista de Psiquiatría y Salud Mental, 12, pp. 37-51, 2019. DOI: org/10.1016/j.rpsm,2017.05.005. 51 Enrique Cáceres Nieto, Javier Diez García, Emilio García García científicos acerca del cerebro se llevan a la práctica médica, las in- terpretaciones legales y las políticas sanitarias y sociales. Con otras palabras, trata de examinar lo correcto o incorrecto, bueno y malo, en el tratamiento del cerebro humano, en su perfeccionamiento, o en la indeseable invasión en el cerebro, o en su preocupante mani- pulación. Comprende dos subcampos: las cuestiones éticas relativas al diseño y realización de las investigaciones neurocientíficas; y la evaluación de las consecuencias éticas, legales y sociales derivadas de los estudios y sus aplicaciones prácticas. Se trata de una neuroé- tica aplicada, estrechamente relacionada con las cuestiones éticas de la práctica biomédica, como la investigación y diseño de estudios clínicos, la privacidad de determinados resultados, el consentimien- to informado del paciente para participar en la investigación. En la publicación de los trabajos de la conferencia se identificaron cinco campos temáticos: el problema de la autoconciencia e identidad personal; las implicaciones sociales y legales; la investigación y apli- caciones en áreas como farmacología y clínica; la recepción pública de estas cuestiones; y el futuro de la nueva disciplina. Generalmente se entiende que en ética importa especialmente establecer lo que no se debe hacer, y en este caso fijando los límites de la investigación neurocientífica y de las aplicaciones que se sigan. Pero es cuestión ética más interesante plantear los beneficios que se pueden derivar de la investigación en neurociencia, porque es una obligación moral beneficiar a la humanidad. El llamado “principio de beneficencia” impulsa gran cantidad de investigaciones y aplica- ciones. No obstante, también es necesario poner límites cuando se presume que pueda darse algún daño, y por ello el “principio de no maleficencia” sigue muy vigente. 20 La ética de la neurociencia se plantea cuestiones críticas. Dado el avance imparable de tecnologías para la mejora del cerebro, se debe establecer lo que se puede hacer y lo que no. Se plantea si se debe 20 Cortina, A., Neuroética y Neuropolítica, sugerencias para la educación moral, Madrid, Tecnos, 2011; Cortina, A. (Ed), Guía Comares de Neurofilosofía…, cit. 52 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ desarrollar fármacos para mejorar la memoria, la atención, o para evitar recuerdos dolorosos; si es aceptable implantar microchips en el cerebro para optimizar el rendimiento académico; si es aceptable la aplicación de técnicas de neuroimagen a sospechosos de parti- cipar en determinados actos criminales; si la técnicas de neuroi- magen pueden atentar contra el derecho a la intimidad; si puede participar en un ensayo clínico una persona con lesiones cerebrales que le impiden dar el consentimiento informado; si pueden admitir los tribunales pruebas obtenidas con neuroimagen para inculpar o exculpar a los acusados; si es legítimo servirse de las técnicas de neuroimagen en los servicios de seguridad nacional, hospitales, em- presas. 21 Una cuestión de gran actualidad y relevancia hace referencia a lo que Gazzaniga denomina neuroética de la duración de la vida, y le dedica la primera parte del libro El cerebro ético, planteando el problema de la atribución de estatus moral a un embrión, y la pro- blemática del envejecimiento cerebral. Uno de los problemas más debatidos en nuestro tiempo es cuándo debemos considerar que un embrión o un feto es ya un ser humano, y si es adecuado atribuir el mismo estatus moral a un blastocito, embrión, feto o recién nacido. Las implicaciones de las respuestas a estas cuestiones son de gran alcance, por ejemplo, en la cuestión del aborto, la fecundación in vitro, la clonación biomédica y la investigación con células madre. El envejecimiento suscita también muchos asuntos espinosos. Uno de ellos es la preocupación por la investigación sobre el enve- jecimiento y la prolongación de la vida, concebida como una bús- queda de la inmortalidad y objetivo principal de la investigación. Puede que el miedo al envejecimiento sea una reacción natural, una manifestación del miedo a la mortalidad, pero la neurociencia sugiere otra perspectiva. En lo que respecta al cerebro, no echa- mos de menos lo que no tenemos. Quienes sufren demencia senil 21 Bonete, E., Neuroética práctica, Bilbao, Desclée de Brouwer, 2010; Savulescu, J., Decisiones peligrosas. Una ética desafiante, Madrid, Tecnos, 2012. 53 Enrique Cáceres Nieto, Javier Diez García, Emilio García García son en gran medida inconscientes de la pérdida de memoria. Aun- que los pacientes no pasan por alto las primeras fases del deterioro de la memoria, tal conciencia desaparece a medida que avanza la enfermedad, hasta la pérdida de la cognición. Las personas de su entorno sufren más, porque perciben la pérdida de aquel ser que conocieron en otro estado. Lo cierto es que el miedo que produce la observación de lo que sucede a los pacientes de demencia senil inspira el miedo al envejecimiento. Cuando es uno mismo el que vive ese proceso, el cerebro acusa los efectos y elimina la conciencia de muchas de las humillaciones, si bien no de todas. La demencia senil puede ser la consecuencia de que el cerebro vive durante un periodo de tiempo más largo que aquel para el que está diseñado.22 Otra problemática de la ética de la neurociencia es la relacionada con el perfeccionamiento cerebral, por vía genética, entrenamiento cerebral o psicofármacos. A estas cuestiones dedica M. Gazzani- ga la segunda parte de su libro. El perfeccionamiento del cerebro por vía genética plantea inquietantes interrogantes. La técnica de fecundación in vitro permite la selección de sexo y otros rasgos del hijo. Los padres pueden elegir uno u otro tipo de embrión, con la expectativa de que nazca el niño de sus sueños. ¿Se debe permitir que los padres diseñen a sus hijos a través de la ingeniería genética? La pregunta tiene otras implicaciones, como si es científicamente posible identificar y seleccionar los múltiples genes de la inteligen- cia; si los genes son el factor determinante de la personalidad; si debemos dejar que en todo caso la naturaleza siga su curso o si debemos intervenir en determinados supuestos. El entrenamiento y perfeccionamiento de las destrezas corpo- rales o de las capacidades mentales se puede lograr a través del esfuerzo y la práctica, con o sin métodos artificiales de potenciación cerebral. Cuando se logra determinado objetivo a través del esfuer- zo y la práctica, encomiamos el éxito personal. Pero cuando se recu- 22 Gazzaniga, M., El cerebro ético, Barcelona, Paidos, 2006. 54 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ rre a las intervenciones farmacológicas, nos resistimos a aceptarlo. Además, los sistemas de perfeccionamiento de las destrezas corpo- rales presentan ciertas características diferenciales con respecto a las capacidades mentales. Parece admisible el tratamiento de las limitaciones de memoria e inteligencia, incluso la potenciación de la memoria normal. Pero cuestionamos las intervenciones mediante fármacos para lograr capacidades físicas superiores, como demues- tran los controles antidopaje en las competiciones. El perfeccionamiento del cerebro con la ayuda de fármacos plan- tea serios problemas. Muchos fármacos inteligentes se encuentran en fase de ensayos clínicos y próximos a su comercialización. Al- gunos fármacos, que ya están disponibles para los pacientes con déficits cognitivos, pueden incrementar también la inteligencia de la población sana. Pero ningún fármaco carece de efectos secun- darios. La neurociencia no ha avanzado lo suficiente para actuar sólo sobre un concreto problema, y toda sustancia tiene sus costes y desventajas. El uso de fármacos u otras tecnologías neurocientíficas conlleva preocupación por la seguridad y las consecuencias no de- seadas. Además, existe preocupación por los impactos sociales que la mejora cerebral pudiera generar, afectando a nuestra forma de vivir, los valores y pautas de comportamiento, por ejemplo, nuevas formas de discriminación en el campo académico o profesional. Los avances en la comprensión de la organización funcional del cerebro, los conocimientos sobre genética y neuroquímica están po- sibilitando valiosos estudios experimentales y ensayos clínicos con nuevos fármacos. Se conocen varios sistemas de potenciación cog- nitiva o fármacos inteligentes (nootropos). Cada vez que un estudio muestra que un determinado agente químico puede producir un incremento de memoria en una población animal, sea la mosca o la rata, pueden suceder dos cosas: si el fármaco no está en el mercado, aparece una empresa farmacéutica que crea un nuevo producto, explotando el hallazgo; si el fármaco ya existe para tratar una enfer- medad conocida, como el Alzheimer o déficit de atención, aumenta 55 Enrique Cáceres Nieto, Javier Diez García, Emilio García García repentinamente su uso en lo que no estaba prescrito. E. Kandel recibió el Premio Nobel por su investigación sobre el aprendizaje y memoria en el caracol marino, la aplysia, Averiguó que el aprendi- zaje depende de los transmisores en las sinapsis y la activación de determinada proteína, la CREB. Se demostró que esta proteína era crítica para la formación de la memoria en otros animales, como mosca y ratones. Surgió, en 1998, la empresa de Kandel, Memory Pharmaceuticals, con el objetivo de producción de fármacos para in- crementar la CREB en la memoria humana, facilitando la memoria a largo plazo.23 El mundo de las drogas está experimentando alarmantes cam- bios. El Observatorio Europeo de las Drogas y Toxicomanías ha alertado de la profusión de sustancias sintéticas, producidas a gran escala en varios países, como China e India, que se distribuyen por todo el mundo, y especialmente Europa, a través de Internet. Cada semana aparece, al menos, una nueva en un país europeo. Median- te pequeñas alteraciones en sustancias ya conocidas y prohibidas, los traficantes mantienen sus propiedades estupefacientes, pero al tratarse de molécula nuevas, el producto aún no está registrado en la lista de psicoactivos prohibidos, y pasa los controles con gran facilidad. Los recursos y laboratorios encargados de la detección y análisis de las sustancias van siempre por detrás de los fabricantes, y estos tienen un tiempo que aprovechan para la comercialización de lo que será prohibido posteriormente, en el mejor de los casos. Un campo de la ética de la neurociencia, especialmente sensible en la actualidad, hace referencia al derecho a la intimidad y privaci- dad de resultados de investigaciones con técnicas de neuroimagen. El requisito de consentimiento informado por parte del paciente para determinadas investigaciones o intervenciones se vuelve muy problemático en patologías mentales graves. Por otra parte, cabe la posibilidad de encontrar en el curso de los estudios, patologías 23 Kandel, E., En busca de la memoria, Buenos Aires, Katz, 2007. 56 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ cerebrales inesperadas en las que se cuestione la conveniencia de su información. La repercusión de ciertas informaciones sobre el estado cerebral-mental de las personas en manos de empleadores, abogados, tribunales, compañías de seguros, podría ser una amena- za a los derechos de la persona. iii. nEurociEnciA dE lA éticA Una segunda aproximación a la Neuroética es la Neurociencia de la Ética. La investigación sobre las bases neurales del juicio y com- portamiento moral se desarrolla en dos marcos teóricos-experimen- tales: uno, la neuropsicología, especialmente clínica, que estudia los trastornos mentales y de conducta, como consecuencia de lesiones cerebrales; y otro, las tecnologías de neuroimagen, que registran la activación neuronal, los cambios eléctricos y químicos en deter- minadas áreas cerebrales cuando realizamos procesos mentales. La autoconciencia, libertad, responsabilidad, culpabilidad, empatía son procesos mentales complejos que están estrechamente relacio- nados con las denominadas funciones ejecutivas, entendidas como las capacidades mentales que son necesarias para vivir una vida personal, con autonomía intelectual y moral, capaz de plantear- se metas y procurar llevarlas a cabo, de tener un comportamiento social adecuado y responsable. Las funciones ejecutivas dirigen las acciones, gestionando todos los recursos mentales, los procesos cog- nitivos y afectivos, para resolver problemas de vivir en comunidad y lograr una vida más feliz. De ahí que se haya caracterizado las funciones ejecutivas como sede de la moralidad y el cortex prefron- tal como órgano de la civilización.24 24 Goldberg, E., El cerebro ejecutivo, Barcelona: Crítica, 2002; Goldberg, E., La pa- radoja de la sabiduría, Barcelona, Crítica, 2009; Gazzaniga, M., Qué nos hace humanos, Barcelona, Paidos, 2010; Garcia Garcia, E., “Neuropsicología del comportamiento moral”, en J. de la Torre (ed.), Neurociencia, neuroética y bioética, Madrid, Universidad Comillas, 43-75, 2014. 57 Enrique Cáceres Nieto, Javier Diez García, Emilio García García Luria caracterizó como funciones cognitivas de alto nivel, o funciones corticales superiores, a la atención sostenida, capacidad de iniciativa, formulación de metas, plan de acción y autocontrol de la conducta. Examinó los trastornos de estas funciones como consecuencia de patologías frontales y dedicó especial atención a programas de rehabilitación. Los pacientes con afectación frontal presentan problemas en el establecimiento de objetivos y diseño de planes de acción, así como déficit en capacidad de iniciativa, moti- vación y compromiso con la acción. Son números los estudios sobre los procesos cognitivos y emocionales relacionados con el lóbulo frontal, como la capacidad de planificar, modular e inhibir la activi- dad, monitorizar y supervisar las tareas, la flexibilidad cognitiva, el control atencional, la memoria de trabajo, la organización temporal de la conducta, la autoconciencia personal, la interacción social y el juicio moral.25 La teoría de Fuster sobre el córtex frontal pone especial énfasis en la estructuración temporal de la conducta, que implica tres fun- ciones básicas: la función retrospectiva de memoria, la prospectiva de planificación de la conducta, y la función de control e inhibición de las influencias, tanto internas como externas, que pueden inter- ferir en las acciones. Fuster habla de las memorias ejecutivas como los planes de acción y estrategias para la solución de problemas que se elaboran en estas áreas prefrontales y allí quedan registradas. Los recuerdos ejecutivos están listos para ser utilizados en ocasiones similares de la vida, pero especialmente se activan con flexibilidad y creatividad para afrontar nuevos y más complejos problemas. El córtex prefrontal posibilita nuevos enfoques analíticos, representa- ciones de pensamiento, esquemas y patrones de acción ante los pro- blemas, y más aún plantea nuevos problemas, nuevas propuestas y proyectos, valorando las posibles consecuencias. Según Fuster, la li- 25 Luria, A., El cerebro humano y los procesos psíquicos, Barcelona, Fontanella, 1979; Luria, A., Las funciones corticales superiores del hombre, Barcelona, Fontanella, 1983. 58 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ bertad para escoger entre alternativas o libre albedrio es función de la corteza prefrontal, en su interacción con el medio sociocultural.26 Goldberg señala como funciones principales del córtex prefron- tal el reconocimiento de patrones, el conocimiento preceptivo, las alternativas ejecutivas y la valoración de las mismas. La capacidad para establecer relaciones temporales y causales es requisito para la comprensión de conceptos éticos y razonamiento moral. La capa- cidad para concebir consecuencias de actuaciones alternativas, así como de lamentarse o arrepentirse de actuaciones equivocadas es lo que se denomina argumento contrafáctico, y es importante en la toma de decisiones en cualquier ámbito y particularmente resulta crítico en la esfera moral. 27 La teoría del marcador somático de Damasio destaca la impor- tancia del cortex prefrontal y el cerebro emocional para la adecuada toma de decisiones. Las funciones ejecutivas hacen referencia a un conjunto de sistemas implicados en la optimización de los procesos cognitivos y emocionales a fin de resolver problemas adecuadamen- te en situaciones complejas. Damasio ha estudiado pacientes con lesiones prefrontales, en los que constata profundas alteraciones de personalidad, y particularmente de juicio y comportamiento mo- ral.28 Para Ramachandran, uno de los atributos del yo es la sensación de “estar al mando” de nuestras acciones, y de creer que habría- mos podido actuar de otro modo, si así lo hubiéramos decidido. Esto quizá pueda parecer una cuestión filosófica abstracta, pero desempeña un papel muy importante en la identidad personal, en el mundo social y en la justicia penal. Podemos considerar a alguien 26 Fuster, J., The Prefrontal Cortex, New York, Raven Pres, 1997; Fuster, J., Cortex and Mind: Unifying Cognition, New York, Oxford University Press, 2003; Fuster, J., Cerebro y libertad, Barcelona, Ariel, 2014. 27 Goldberg, E., El cerebro…, cit. 28 Damasio, A., El error de Descartes, Barcelona, Crítica, 1996; Damasio, A., Y el cerebro creó al hombre, Barcelona: Destino, 2010. 59 Enrique Cáceres Nieto, Javier Diez García, Emilio García García culpable sólo si: era capaz de concebir líneas de acción alternativas; era plenamente consciente de las consecuencias potenciales de sus acciones a corto y largo plazo; podría haber decidido no realizar la acción; y quería el resultado obtenido. La neurociencia va propor- cionando datos de cómo funciona el autocontrol y el libre albedrío. Al menos dos regiones cerebrales están especialmente implicadas. La primera es la circunvolución supramarginal del hemisferio iz- quierdo del cerebro, que nos permite concebir distintas alternativas de actuación. La segunda es la corteza cingulada anterior, que nos hace desear, y nos posibilita elegir una acción a partir de una jerar- quía de valores establecidos en la corteza prefrontal.29 En la neurociencia de la ética ha estado muy presente la cuestión filosófica tradicional de los determinantes de la moralidad. Se de- bate si en las decisiones morales pesan más los pensamientos o las emociones. El intuicionismo social de J. Haidt plantea la influencia más determinante que las emociones ejercen en el juicio moral. No tomamos decisiones morales desde supuestos racionales, sino que son las reacciones emocionales las determinantes, y sólo posterior- mente racionalizamos tales reacciones.30 J. D. Greene y colaboradores han propuesto un modelo de proce- so dual para explicar las decisiones morales. Según los autores exis- ten juicios caracterizados por procesos más emocionales, intuitivos y automáticos, y juicios con procesos más cognitivos, racionales y controlados. En unos juicios u otros las estructuras cerebrales y re- des neuronales implicadas son diferentes. Los juicios dependen del contenido más personal o impersonal en el conflicto moral. En el juicio moral de carácter personal se produce un daño a una persona como consecuencia de una decisión-acción tomada directamente por otra persona. En el juicio moral más impersonal el daño a una 29 Ramachandran, V., Los laberintos del cerebro, Barcelona, Liebre de marzo, 2008; Ramachandran, V., Lo que el cerebro…, cit. 30 Haidt, J., The emotional dog and its rational tail, a social intuitionist approach to moral judgement, Psychological Review, 108, 814-834, 2001. 60 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ persona no es consecuencia directa de la acción de otra persona, sino que tal daño es resultado indirecto y no expresamente querido. Con la acción se pretende lograr otros bienes y consecuencias más deseables. Estos juicios son más utilitaristas o consecuencialistas, mientras que los primeros, son más personales y deontológicos. La investigación se ha basado en los dilemas morales y no mo- rales que han merecido complejos debates en la filosofía moral. En los dilemas del ferrocarril se han formulado distintas situaciones. Por ejemplo, un tranvía circula sin control por una vía y va a ma- tar a cinco personas, pero usted puede salvarlas porque tiene a su disposición un mecanismo de cambio de vías que desviará al tran- vía a otra vía, donde va a matar a una sola persona. Se plantea si es moralmente lícito que usted accione el mecanismo de cambio de vía. En condiciones normales la respuesta es mayoritariamente afirmativa. Se trataría en este caso de un juicio consecuencialista o utilitarista. En otra formulación del dilema, usted puede salvar a las cinco personas, pero lo consigue empujando a una persona a la vía, que morirá, pero detendrá el tranvía. En condiciones normales mayoritariamente no se considera lícita tal opción y el juicio es más personalista o deontológico. Los dilemas son susceptibles de muchas formulaciones y ser de carácter moral o meramente convencional, como elegir viajar en tren o en avión. Los estudios se han realizado con personas que responden a los distintos dilemas, y se registra al mismo tiempo su actividad neuronal con tecnologías de neuroimagen, como la reso- nancia magnética funcional. Los resultados mostraron que en las respuestas a dilemas morales personales se activaba significativa- mente más la corteza prefrontal medial, el giro cingulado y el surco temporal superior. Estas son áreas más implicadas en los procesos más emocionales y afectivos. Las respuestas a dilemas morales más impersonales y a dilemas no morales activan más el córtex prefron- tal dorsolateral y áreas parietales que están más implicadas en los procesos más racionales de toma de decisiones y solución de pro- 61 Enrique Cáceres Nieto, Javier Diez García, Emilio García García blemas.31 Para J. Greene el reto de nuestro tiempo es lograr una moral universal, y el camino es el utilitarismo, es decir, procurar el mayor grado de felicidad para el mayor número de personas. Las decisio- nes morales más conscientes y racionales son las de carácter utilita- rista o consecuencialista. El principio rector utilitarista nos permiti- rá resolver los conflictos morales que se dan en nuestro mundo tan fragmentado en “tribus morales”. Nuestro cerebro es resultado de un largo proceso evolutivo que consiguió un diseño neurobiológico adecuado para resolver los problemas de grupos tribales, convivien- do en grupos restringidos, con otros como nosotros, pero compitien- do y enfrentados a los extraños al grupo. Nacemos con una moral diseñada por la evolución apropiada para resolver los conflictos en nuestro grupo (yo/nosotros), pero que no es adecuada para convivir con otros grupos (ellos/nosotros), por ello necesitamos unos princi- pios morales adecuados, una metamoral que permita la convivencia de diferentes morales tribales.32 M. Hauser argumenta la existencia de un órgano moral, o una capacidad moral, conseguida en la historia evolutiva de nuestra es- pecie, que se desarrolla en cada ser humano en un contexto cultural determinado, y le permite generar juicios inmediatos sobre lo que está bien o mal moralmente. La teoría de Hauser se basa en la gra- mática de Chomsky y en las teorías de Rawls. Así como la gramáti- ca universal chomskyana es componente innato de nuestra especie, y ofrece los principios y parámetros para construir cada lengua con- creta, también venimos equipados genéticamente con una gramá- 31 Greene, J., “From neural “is” to moral “ought”: what are the moral implications of neuroscientific moral psychology”, Nature Neuroscience Reviews, 4, 847-850, 2003; Greene, J. et al., The neuronal bases of cognitive conflict and control in moral judge- ment, Neuron, 44, 39-400, 2004; Greene, J., “The cognitive neuroscience of moral judgement”, en M. Gazzaniga (Ed.), The Gognitive Neurosciences IV, Cambridge, MIT Press, 2009. 32 Greene, J., Moral Tribes. Emotion, reason and the gap between us and them, New York, Penguin, 2013. 62 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ tica moral universal para construir los sistemas morales concretos. Cuando adquirimos las normas morales propias de nuestra cultura, juzgamos si determinadas acciones son permisibles, obligatorias o prohibidas, sin necesidad de razonar conscientemente y sin tener acceso explícito a los principios subyacentes. Hauser comenta tres teorías-tipo para explicar el juicio moral: la criatura kantiana, según la cual el proceso clave que subyace al juicio moral es el razonamiento deliberado, basado en principios conscientes y claramente articulados; la criatura humeana, que atribuye a las emociones el papel básico; y la criatura que, basada en Chomsky y Rawls, hace suya Hauser. Analiza diferentes dile- mas morales que nos plantean un conflicto entre dos o más deberes contrapuestos. Enfrentados a esos dilemas emitimos un juicio de bondad o maldad respecto al carácter de una persona o del acto mismo. Esos juicios son más o menos conscientes. Algunos juicios son rápidos y otros requieren deliberación, La intuición y el razo- namiento consciente tienen diseños diferentes. Las intuiciones son rápidas, automáticas, involuntarias, requieren poco esfuerzo aten- cional, aparecen al principio del proceso, se expresan sin recurrir a razones fundadas en principios y parecen inmunes a cualquier contraargumento. El razonamiento fundado en principios es lento, acompañado de deliberación, reflexivo, requiere esfuerzo atencio- nal, aparece tarde en el proceso, es justificable y está abierto a obje- ciones argumentaciones. Como en todas las dicotomías, hay amplia zona intermedia de grises.33 Para decidir cuál de las teorías se corresponde mejor con la toma de decisiones morales podemos remitirnos a las imágenes de la acti- vidad neuronal en el momento de resolver dilemas morales. Tendría- mos así una constatación experimental. Para las criaturas kantianas deberían activarse predominantemente las zonas del razonamiento. Para la criatura humeana deberían activarse predominantemente 33 Hauser, M., La mente moral, Barcelona, Paidos, 2008. 63 Enrique Cáceres Nieto, Javier Diez García, Emilio García García las zonas del control emocional. Para la criatura rawlsiana debe- rían activarse partes del cerebro específicas de la gramática moral y, posteriormente una vez emitido el juicio, áreas del razonamiento y/o de la emoción. Qué ocurre en el cerebro de cada persona mientras se enfrenta a un dilema moral, valora una situación y responde. En las situa- ciones morales personales, las imágenes cerebrales revelaron una notable actividad en zonas que desempeñan un papel crucial en el procesamiento de las emociones, un circuito que va desde el lóbulo frontal hasta el sistema límbico, la circunvolución frontal media, la circunvolución cingulada posterior y la circunvolución angular. Además, cuando las consecuencias utilitarias (salvar a 5) entraban en conflicto con reglas deontológicas emocionalmente cargadas (no dañes a otros) se activaba directamente la circunvolución cingulada anterior, que se activa ante los conflictos. En los sujetos que van contra corriente, juzgando lícito un caso moral personal, se mues- tra una activación mucho mayor del córtex prefrontal dorsolateral, zona que interviene en la planificación y el razonamiento. Para Hauser, la criatura kantiana queda peor parada de los aná- lisis de las imágenes neuronales, al dejar claro que se activan áreas emocionales, aunque en algunos sujetos triunfen los sistemas de ra- zonamiento de manera fría y sosegada. Mejor salen las criaturas humeana y rawlsiana. Ésta última no niega el papel de las emocio- nes en algunos aspectos de nuestro comportamiento moral, sino que discute el momento en el que intervienen. Pero esta cuestión sólo se podrá resolver cuando las tecnologías de neuroimagen permitan reconocer no sólo las zonas de activación cerebral, sino también la secuencia cronológica de su activación. Cuando nos enfrentamos a ciertos dilemas morales se activa una vasta red de regiones cerebrales, incluidas áreas que intervienen en la emoción, la atención, la memoria, la toma de decisiones y las relaciones sociales. Pero estas zonas también son requeridas para resolver problemas no morales. ¿Es posible que alguna de estas zo- 64 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ nas se active sólo para resolver dilemas morales? Hasta ahora nin- guno de los estudios realizados señala un “órgano moral” exclusiva- mente dedicado a esta tarea. Lo que sí muestran las investigaciones con tecnología de neuroimagen es que cuando experimentamos un conflicto entre deberes u obligaciones incompatibles, hay enfrenta- miento entre las criaturas kantiana y humeana. Si no hay emoción no hay tensión moral. El conflicto emocional proporciona la marca delatora de un dilema moral. Los estudios realizados muestran in- equívocamente que las zonas que intervienen en el procesamiento de las emociones se activan cuando emitimos un juicio moral, sobre todo en los casos que tienen carga personal. En las decisiones mo- rales están implicadas múltiples redes neuronales. Unas permitirán un procesamiento más rápido, intuitivo y emocional, mientras que en otras los procesos son más conscientes y reflexivos, pero siempre están presentes componentes cognitivos y emocionales. Los juicios y comportamientos morales dependen de la organi- zación funcional del cerebro, que a su vez está modelado por la cultura y los sistemas normativos de una determinada sociedad. To- dos los procesos mentales, incluidos los juicios y decisiones morales, condicionan la sociedad y cultura en la que vivimos, pero a la vez, las estructuras socioculturales moldean la organización funcional de nuestro cerebro, el conectoma y los procesos mentales. Las es- tructuras socioculturales y neuronales se conforman y desarrollan en simbiosis e interacción causal, como muestran las investigaciones sobre la neuroplasticidad. En la investigación neuroética es preciso tener presente tres perspectivas complementarias: la predisposición genética y cerebral al juicio y comportamiento moral, resultado de la evolución de nuestra especie; las normas y códigos morales que se han desarrollado en los diferentes contextos culturales; y la inter- nalización y asimilación de las normas que cada persona adquiere en el proceso de socialización. La naturalización de la ética, en lugar de ser deshumanizante, como se ha argumentado, muy al contrario, puede proporcionar 65 Enrique Cáceres Nieto, Javier Diez García, Emilio García García claves para comprender más plenamente la ética. La neurocien- cia facilita conocimientos que son pertinentes y relevantes para la ética, estableciendo una continuidad dimensional entre el ¨es” de la ciencia y el “debe” de la moral. Así se cuestiona la oposición que tanto se ha argumentado desde la falacia naturalista. La neuroéti- ca aporta conocimientos y problemas, preguntas y respuestas para plantear la universalidad de la ética y considerar la moralidad como característica natural de la humanidad. Para la neurociencia el ser humano no tiene una naturaleza esen- cial, inmutable y sobrenatural, como han mantenido las religiones y filosofías, con los dualismos de materia y espíritu, alma y cuerpo, cerebro y mente. Los conocimientos de las ciencias como genética, biología, psicología, antropología evidencian nuestro pasado filoge- nético. Los estudios filosóficos de la ética, si quieren se racionales y razonables, tienen que considerar lo que las ciencias constatan, particularmente la neurociencia, sobre la naturaleza humana. Las preguntas sobre qué es el ser humano exigen tener en cuenta las respuestas desde diversas ciencias sobre por qué y cómo pensamos, sentimos y nos comportamos, también moralmente; por qué y cómo evolucionó nuestra especie; cómo hemos llegado hasta el momento presente; los problemas y desafíos que tenemos ante nosotros. Para la comprensión y explicación de la ética se requieren las diversas ciencias y disciplinas, desde las ciencias naturales a las sociales, ju- rídicas y humanidades, desde la neurociencia a la filosofía, pasando por las ciencias cognitivas.34 iv. nEurodErEcHos Los Neuroderechos son una nueva y más reciente formulación de Derechos Humanos que hacen referencia al cerebro-mente de las personas, es decir a su personalidad. El sistema de personalidad es 34 Changeux, J-P., op.cit.; Churchland, P. S. Braintrust: what neuroscience tells us about morality, Princeton, New Jersey, Princeton University Press, 2011. 66 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ el conjunto de procesos mentales, cognitivos, emocionales, lingüís- ticos, sociales, morales, estéticos, propios de cada individuo. Todos los procesos y capacidades mentales tienen a la base el sistema de redes neuronales del cerebro, que anteriormente hemos caracteri- zado como conectoma, y que depende del conjunto de genes, único en cada individuo, y de las experiencias y aprendizajes que cada persona tiene, a lo largo de toda la vida, en su medio físico y socio- cultural.35 Podemos caracterizar los Neuroderechos en cuatro áreas: A) Identidad, libertad y agencia personal. B) Privacidad y consenti- miento. C) Mejoramiento. D) Equidad e imparcialidad. Los Neuroderechos expresarían la cuarta generación de los De- rechos Humanos. En el desarrollo de los Derechos Humanos se han diferenciado tres etapas o generaciones, además de la llamada “ge- neración cero” referida a ese largo pasado de tradiciones religiosas, filosóficas y culturales, presentes en las diversas civilizaciones, y que recogen las aspiraciones de dignidad, libertad y justicia del ser hu- mano. La primera generación o derechos de la libertad recoge los derechos civiles y políticos, y se desarrolla en Europa y Norteaméri- ca entre los siglos XVIII y XIX, con la Ilustración, las revoluciones burguesas, las guerras de independencia. La segunda generación comprende los derechos de la igualdad. Si los derechos de la prime- ra generación protegen al individuo frente al estado, ahora se exigi- rá cierta intervención del estado para garantizar que los individuos disfruten de bienes sociales básicos como educación, salud, trabajo y protección social. La tercera generación se refiere a los derechos de la solidaridad, que se configuran como declaraciones sectoriales, por cuanto son derechos de personas concretas, pertenecientes a determinados colectivos, que se ven discriminados o privados de determinados derechos. Desde las últimas décadas del siglo XX, los derechos de la solidaridad se profundizan y amplían, demandando 35 Dubois, J., Eberhardt, F., Paul, L.K., et al., Personality beyond taxonomy. Nature Human Behaviour, 2020. DOI: https://doi.org/10.1038/s41562-020-00989-3. 67 Enrique Cáceres Nieto, Javier Diez García, Emilio García García la solidaridad entre países ricos y pobres, la superación de las des- igualdades Norte-Sur, la solidaridad con la naturaleza, exigiendo la protección del medio ambiente, la solidaridad con las culturas y generaciones, reclamando el respeto y preservación del patrimonio cultural.36 Más recientemente, en 2017, un grupo de neurocientíficos, neu- rotecnólogos, clínicos, ingenieros, filósofos se reunió en la Univer- sidad de Columbia, Nueva York, para debatir sobre la neuroética, las neurotecnologías y la inteligencia artificial y formular lo que podríamos considerar curta generación de derechos: los Neurode- rechos. También participaban representantes de empresas tecnoló- gicas, de instituciones académicas, y de proyectos internacionales de investigación sobre el cerebro. Se formularon cuatro prioridades éticas para las neurotecnologías y la inteligencia artificial37 Se planteó que las directrices éticas existentes en la investigación neurocientífica y médica eran insuficientes. Se incluían la Declara- ción de Helsinki, de la World Medical Association, sobre los prin- cipios éticos para la investigación médica en seres humanos, for- mulada en 1964, y ratificada en sucesivas asambleas38. También el Informe Belmont, de 1979, elaborado por la Comisión Nacional de los Estados Unidos para la protección de sujetos humanos en la in- vestigación biomédica39. Y la Declaración de Principios de Asilomar sobre la Inteligencia Artificial, de 2017, firmada por investigadores 36 García García, E., “Derechos humanos y calidad de vida”, en González R. Ar- naiz, et al., Derechos Humanos. La condición humana en la sociedad tecnológica. Madrid, Tecnos, 131-163, 1999. 37 Yuste, R., Goering, S., et al., “Four ethical priorities for neurotechnologies and AI”, Nature, 551, 159-163, 2017. 38 World Medical Association Declaration of Helsinki, Declaration of Helsinki. Dis- ponible en: go.nature.com/2z262ag. 39 Office for Human Research Protections, The Belmont Report. Disponible en: go.na- ture.com/2hrezmb. 68 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ de IA y líderes empresariales40. Los avances en ciencias y tecnologías biomédicas, en inteligencia artificial y aprendizaje automático, en interface cerebro-máquina e ingeniería ciborgs, plantean dilemas morales muy complejos y ur- gentes. Las propuestas que se ofrecen para responder a los desafíos sociales, legales y éticos son dispares, de ahí la necesidad de debates públicos bien informados. Los procesos de información, diálogo y crítica deben estar basados en valores. El Informe sobre los Principios Asilomar en Inteligencia Artificial, del Grupo de Estudio y Evaluación de la Tecnología de la Digitalización (2018), y la Declaración del Grupo Europeo sobre Ética de la Ciencia y Nuevas Tecnologías, con el título Inteligencia artificial, robótica y sistemas autónomos hacen propuestas para lograr un marco ético y legal común, internacio- nalmente reconocido, para el diseño, producción y gobernanza de la inteligencia artificial, la robótica y los sistemas autónomos. Las declaraciones se fundamentan en un conjunto de principios éticos, basados en los valores establecidos en la Declaración de Derechos Fundamentales, los tratados de organizaciones internacionales, y también recogen iniciativas de asociaciones de profesionales y or- ganismos varios. La Declaración sobre Inteligencia Artificial, Robótica y Sistemas Autónomos (2018) propone como principios éticos: A) Dignidad humana. El principio de la dignidad humana, el reconocimiento de la condición inherente del ser humano que lo hace digno de respeto, no debe ser violado por las tecnologías au- tónomas. La toma de decisiones y la clasificación de los individuos hechas por algoritmos y sistemas autónomos debe ser regulada, especialmente cuando los involucrados ignoran estas prácticas. Es preciso establecer límites para evitar que se haga creer a las perso- nas que están tratando con seres humanos, cuando en realidad lo hacen con algoritmos y máquinas. La dignidad requiere que nos reservemos el derecho de decidir si asignamos determinadas tareas 40 Future of life Institute, Asilomar AI Principles. Disponible en: go.nature.com/2ihnqac. 69 Enrique Cáceres Nieto, Javier Diez García, Emilio García García a humanos o máquinas. B) Autonomía. El concepto autonomía se refiere a la capacidad que tienen las personas para legislarse a sí mismas, para formular, pensar y elegir normas que ellos mismos deben cumplir. Este con- cepto abarca el derecho a ser libre para establecer estándares, obje- tivos y propósitos de vida propios. La autonomía, en el sentido re- levante de la palabra, sólo puede ser atribuida a los seres humanos. De ahí que resulte inapropiado utilizar el término autonomía para referirse a meros artefactos, aunque se trate de sistemas adaptativos muy avanzados o incluso inteligentes. Si ningún sistema inteligente puede ser considerado autónomo en el sentido ético y legal, tampo- co puede ser considerado titular de la moralidad y dignidad. Con esta salvedad seguimos utilizando el término”autónomo” referido a artefactos, máquinas y sistemas. Todas las tecnologías autónomas deben respetar la capacidad humana de elegir si delegarles determi- nadas decisiones o acciones, cuándo y cómo hacerlo. Esto requiere que los sistemas autónomos sean transparentes y previsibles, carac- terísticas sin la cuales sería imposible para los usuarios intervenir o detenerlos cuando así lo consideren moralmente necesario. C) Responsabilidad. El principio de responsabilidad debe ser fundamental en la investigación e implementación de la IA y sis- temas autónomos. Los sistemas autónomos sólo deberían desarro- llarse y aplicarse, si sirven al bienestar social y ambiental a nivel global. Establecer dicho bienestar requiere procesos democráticos deliberativos. Los sistemas autónomos deben ser diseñados de ma- nera que sus impactos respeten la pluralidad de valores y Derechos Humanos. La investigación, el diseño y desarrollo de la IA, la robó- tica y los sistemas autónomos deben ser guiados por un auténtico interés en la ética de la investigación, en la responsabilidad social de los programadores y en la cooperación académica mundial para proteger derechos y valores humanos fundamentales. Además, estas tecnologías deben ser diseñadas de forma que promuevan esos de- rechos y valores. 70 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ D) Justicia, equidad y solidaridad. Se debe facilitar la igualdad de acceso a los beneficios y ventajas de las tecnologías. Y se deben evi- tar los sesgos y discriminaciones en las bases de datos. Necesitamos conseguir que la distribución de beneficios y oportunidades sean equitativas. Esta igualdad y equidad debe alcanzarse entre diferen- tes sociedades y en el seno de cada una de ellas. Es esencial formu- lar nuevos modelos justos de distribución equitativa y participación en los beneficios. Asimismo, se debe asegurar el acceso a las tecno- logías, y facilitar la formación en ciencia, tecnología, ingeniería, matemática y disciplinas digitales, especialmente cuando se trata de regiones o grupos sociales desfavorecidos. Es necesario estar atentos a los impactos negativos de la acumulación creciente y masiva de datos personales, y los efectos que pueden tener en asistencia sani- taria, solidaridad y cohesión social. E) Democracia. Las decisiones clave sobre la regulación de la IA, específicamente sobre su desarrollo y aplicaciones, deben ser el resultado de procesos de debate democrático y participación ciu- dadana. Cooperación global y procesos de diálogo público asegu- rarán que estas decisiones sean inclusivas, informadas y con visión de futuro. Garantizar el derecho a la educación y a la información sobre las nuevas tecnologías y sus implicaciones éticas facilitará que todos comprendan los riesgos y oportunidades en juego y tomar decisiones adecuadas. Los procesos democráticos son esenciales a la dignidad humana y la autonomía. Las nuevas tecnologías no deben poner en peligro a los ciudadanos y despojarlos de su individuali- dad y sus derechos. Las tecnologías deben ser herramientas para beneficiarnos de la inteligencia colectiva, y para apoyar y mejorar los procesos cívicos de los que dependen nuestras sociedades demo- cráticas. F) Estado de derecho y rendición de cuentas. El estado de dere- cho, el acceso a la justicia y el derecho de recibir una compensación y un juicio justo, proporcionan el marco necesario para garantizar la observancia de las normas de derechos humanos. Esto incluye la 71 Enrique Cáceres Nieto, Javier Diez García, Emilio García García protección contra la violación de los derechos humanos por parte de los sistemas “autónomos”, por ejemplo, la seguridad o la priva- cidad. Se deben desarrollar protocolos y toma de decisiones claras que asignen responsabilidades de manera justa, y establecer una legislación vinculante eficiente. Los gobiernos y las organizaciones internacionales deben incrementar sus esfuerzos para establecer en quién recae la responsabilidad de los daños causados por el desem- peño no deseado de sistemas autónomos. G) Seguridad, protección e integridad física y mental. La segu- ridad y la protección de los sistemas autónomos se concretan en la seguridad externa, que se ofrece al entorno y a los usuarios; la con- fiabilidad y la robustez interna, por ejemplo, contra la piratería; y la seguridad emocional, que se refiere a la interacción humano-má- quina. Estas tres dimensiones de la seguridad y la protección deben ser tomadas en cuenta por los que desarrollan la IA, y deben ser evaluadas estrictamente antes del lanzamiento de cualquier sistema autónomo, a fin de garantizar que no infrinjan el derecho de los seres humanos a la integridad física y mental y a un entorno seguro. Se debe prestar atención a las personas más vulnerables, así como al uso inadecuado y la militarización de la IA, por ejemplo, en los campos de ciberseguridad, conflictos armados y finanzas. H) Protección de datos y privacidad. En una época de recopila- ción generalizada y masiva de datos a través de tecnologías digitales de la comunicación, el derecho a la protección de la información personal y el derecho a la privacidad están siendo cuestionados. La IA y los sistemas autónomos no deben interferir en el derecho a la vida privada. Esto incluye el derecho a estar libres de tecnologías que influyan en las opiniones y el desarrollo personal, el derecho a establecer y desarrollar relaciones con otras personas, y el derecho a estar libres de vigilancia. Los posibles efectos de los sistemas autó- nomos en la vida privada y privacidad generan gran preocupación, por lo que hay que preservar el derecho al contacto humano signi- ficativo. 72 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ I) Sostenibilidad. Las tecnologías de IA y sistemas autónomos deben responder a la responsabilidad humana de garantizar los prerrequisitos fundamentales para la vida en nuestro planeta, y la conservación del medioambiente para las generaciones futuras. Las estrategias para evitar que las futuras tecnologías afecten negati- vamente la vida humana y la naturaleza necesitan fundamentarse en políticas que prioricen la protección del medio ambiente y la sostenibilidad. Para construir el mundo futuro de desarrollo socioe- conómico e ideales morales es necesario tener presentes las conside- raciones éticas y los valores morales compartidos. Desde el año 2017 se vienen proponiendo cinco Neuroderechos, para incorporar a la formulación y desarrollo de los Derechos Hu- manos y Tratados Internacionales. 41 1. Derecho a la preservación de la Identidad Personal. La neurocien- cia y neurotecnologías pueden alterar el sentido de la identidad per- sonal, y la naturaleza del yo, al modificar y alterar el cerebro. Por ejemplo, cuando algunas personas que reciben estimulación cerebral profunda mediante electrodos implantados en su cerebro, informan que sienten su sentido del yo alterado, se ven en un mundo borroso, y no están seguros de quienes son. La interfaz cerebro-máquina y aprendizaje automático al permitir controlar los dispositivos a tra- vés de los pensamientos y a grandes distancias, y llegar a conectar varios cerebros, la comprensión de nuestra propia identidad se verá alterada. Las formulaciones de consentimiento ante los riesgos de intervenciones quirúrgicas en el cerebro han de tener en cuenta no solamente los riesgos físicos, sino también los posibles efectos en la personalidad, pensamientos y emociones. 2. Derecho a la no interferencia en la libertad de decisión. Se debe garantizar que las personas tomen decisiones libremente, con au- tonomía y responsabilidad, y no sean manipuladas por la neuro- tecnologías. Hay riesgos de que las personas, al estar conectadas mediante interfaz cerebro-máquina y verse alterada la actividad 41 Yuste, R., Goering, S., et al., op. cit. 73 Enrique Cáceres Nieto, Javier Diez García, Emilio García García neuronal, puedan sentirse invadidas por terceros al tomar decisio- nes. La agencia o la capacidad de elegir nuestras acciones debe protegerse como Derecho Humano básico. 3. Derecho a la privacidad de datos neuronales. Las personas deben tener el derecho de mantener la privacidad de sus datos neuronales. Se debe evitar que cualquier dato obtenido de la medición y análisis de la actividad neuronal pueda ser utilizado sin consentimiento del interesado. Para todos los datos neuronales, la capacidad de optar por no compartir debe ser la opción predeterminada y estar bien protegida. Las personas tendrían que optar explícitamente para compartir datos neuronales desde cualquier dispositivo. Se ceden con extrema facilidad los derechos de privacidad a los proveedores comerciales de servicios y las redes sociales, sin valorar correcta- mente lo que se está entregando. Los datos neuronales deben tener un tratamiento similar al de otros órganos del cuerpo. 4. Derecho a la equidad en el mejoramiento de la capacidad cerebral. Se debe garantizar que la posible mejora de la actividad cerebral y las capacidades humanas sea accesible equitativamente a todos, y no quede reservada para un sector de la sociedad, generando así nuevas formas de marginación y exclusión. Se deben establecer pautas a nivel internacional y nacional para establecer límites a las neurotecnologías de mejoramiento que puedan implementarse, y para definir los contextos para su utilización. Se debe tener presen- te que las prohibiciones absolutas de determinadas tecnologías po- drían simplemente empujarlas a la clandestinidad, por ello se deben establecer regulaciones específicas después de información fundada y debates abiertos y rigurosos. 5. Derecho a la protección frente a los sesgos de los algoritmos. Las neurotecnologías y la IA no deben privilegiar a ciertos grupos y da- ñar a otros, estableciendo discriminaciones por etnia, sexo, religión, posición económica o cualquier otra condición. El aprendizaje profundo y los llamados enfoques de redes generativas antagónicas hacen posible que las máquinas se enseñen a sí mismas nuevas es- trategias, y adquieran nuevos elementos para ser incorporados en sus análisis. De esta forma, las acciones de estas máquinas se vuel- 74 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ ven indescifrables y escapan del escrutinio humano. Esto se debe, en primer lugar, a que resulta imposible averiguar cómo se generan los resultados más allá de los algoritmos iniciales. En segundo lugar, porque el rendimiento de estas máquinas se basa en los datos uti- lizados durante el proceso de aprendizaje y estos pueden no estar disponibles o ser inaccesibles. Y además pueden generar errores, sesgos y prejuicios que quedaran enraizados en el sistema, que los reproduce y amplifica. Las herramientas cognitivas más poderosas son también las más opacas, puesto que sus acciones han dejado de ser programadas linealmente por humanos. Se destacan algunos ejemplos. Google Brain desarrolla una IA que construye otras de su misma naturaleza mejor y más rápidamente que los humanos. AlphaZero puede autoejecutarse y pasar en cuatro horas de ser completamente ignorante de las reglas del ajedrez, a alcanzar el nivel del campeón del mundo. Los algoritmos utilizados por agencias policiales generan datos sesgados sobre determina- dos grupos sociales42. Las Declaración de los Derechos Humanos, las declaraciones de organismos internacionales, las constituciones nacionales, los pro- gramas sanitarios de los estados, todos reconocen que una sociedad más desarrollada, justa y feliz, debe conceder a todos sus miembros una calidad de vida digna, unas condiciones saludables, una asis- tencia médica adecuada. Pero esto podía estar muy bien mientras las ciencias y tecnologías biomédicas se preocupan de procurar la salud, evitar las enfermedades y curar a los enfermos, pero puede suceder algo muy distinto cuando las ciencias y tecnologías biomé- dicas, la inteligencia artificial, la robótica se proponen incrementar las capacidades humanas. Puede que todos los humanos no tengan acceso a estas capacidades mejoradas, y habría distintas clases de personas. Y así, podemos estar a las puertas de un mundo más des- 42 Angwin, Julia, et al., Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks, 2016. Disponible en: Go.nature.com/29aznyw; Go. nature.com/2ztfjt9. 75 Enrique Cáceres Nieto, Javier Diez García, Emilio García García igual que nunca en el pasado. Las nuevas tecnologías no estarán a disposición de todos los humanos, y dependerán de su nivel econó- mico, estableciendo clases superiores e inferiores.43 v. neurodereCho, neurodereChos y neurodereChos44 De acuerdo con el profesor Hart: “Pocas preguntas referentes a la sociedad humana han sido for- muladas con tanta persistencia y respondidas por pensadores se- rios de maneras tan diversas, extrañas, y aun paradójicas, como la pregunta ¿qué es el derecho?... No hay una vasta literatura consa- grada a contestar las preguntas “qué es la química?” o “qué es la medicina?”, como la hay para responder a la pregunta ¿qué es el derecho?”45 Según el célebre profesor inglés, la perplejidad causada por esta pregunta se encuentra en tres problemas recurrentes en los más re- presentativos teóricos del derecho, una de las cuales corresponde a la diferencia entre derecho y moral. Para algunos (representados de manera paradigmática, aunque no única, por los iusnaturalistas tomistas) el derecho debe entender- se como una rama de la moral. 43 Dieguez, A., Transhumanismo La búsqueda tecnológica del mejoramiento humano, Barcelo- na, Herder, 2017; Harari, Y. N., Homo Deus. Breve historia del mañana, Barcelona, Debate, 2017; Garcia Garcia, E., “Neurociencia, humanismo y posthumanismo”, Logos, 53, 9-31, 2020. 44 Un recurso empleado en el análisis conceptual analítico para distinguir los dis- tintos significados de un mismo significante consiste en usar números exponenciales al lado de palabras polisémicas. Otra convención radica en distinguir la mención de una expresión y el uso de la expresión mediante el uso de comillas simples cuando se está mencionando la entidad lingüística y no aquello que es denotado por ella. En el rubro de este apartado, por ejemplo, neuroderechos sin exponencial y neuroderechos1, con exponencial, denotan cosas muy distintas: en el primer caso se refiere a derechos morales y en el segundo a una clase de derechos subjetivos jurídicos. 45 Hart, H., El concepto de derecho, trad. Genaro R. Carrio, México, Editora Nacio- nal, 1961, p. 1. 76 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ No es este el lugar para abordar las distintas posturas filosóficas en torno a la relación entre el derecho y la moral; sin embargo, es conveniente dar cuenta de la necesidad de hacer esa distinción por razones tanto prácticas como epistémicas, en oposición a la postura iusnaturalista. La razón práctica tiene que ver con el relativismo moral. Lo que en una época es moral, no lo es en otra, así como lo que es moral para una persona no lo es para otra e incluso puede no serlo para la misma persona en épocas distintas de su vida. Si la identifica- ción de algo como derecho dependiera de su contenido moral, se presentarían serios problemas para su eficacia ya que cualquiera podría defenderse de no seguir lo que establecen el derecho positivo diciendo: “eso será derecho para usted, pero no para mí, porque no es acorde con mis creencias morales”. Las consecuencias, desde luego, serían caótica. La razón epistémica tiene que ver con el hecho de que en las di- námicas sociales y en especial en los casos presentados ante tribuna- les, por más que alguien crea en una moral positiva, si desea tener alguna probabilidad de éxito en un juicio, debe invocar las normas jurídicas y no las pertenecientes a otro sistema normativo. En otras palabras, por más iusnaturalista que sea alguien, en un juicio invo- cará al código penal y no los diez mandamientos. Parte de los problemas que envuelven la relación entre derecho y moral son de carácter semántico, en especial, debido a la polisemia de la expresión ´derecho´ que, además de sus significados coloquia- les (opuesto a izquierdo, honesto, recto, etc.) también tiene sentidos diferentes en la moral y en la política. Por si fuera poco, dentro del derecho, la expresión también es po- lisémica y puede denotar al concepto filosófico, así como al sistema de normas de un país (derecho en sentido objetivo), a la “ciencia” del derecho, a áreas concretas del derecho (derecho civil, penal etc), así como a las prerrogativas concedidas por el derecho positivo, en cuyo caso hablamos de ‘derecho subjetivo’. Dentro de este último 77 Enrique Cáceres Nieto, Javier Diez García, Emilio García García sentido, también hay polisemia ya que se puede referir al derecho a realizar cierta conducta (derecho a celebrar contratos), así como derecho a beneficiarse por cierto estado de cosas (derecho a un me- dio ambiente sano). El problema se complica aún más si se ve desde la perspectiva del derecho comparado: “‘Law’ es un término polisémico en inglés. Tiene varios significados vinculados “como por un aire de familia”: 1) un enunciado nor- mativo (artículo o precepto particular en nuestra tradición); 2) un conjunto de preceptos (equivalente a una ley en nuestro sistema); 3) un área del conocimiento teórico o “científico” (sentido que se le da cuando se habla de “lawschool” o de doctrina; 4) un sentido filosófico (usado en obras como la de Hart: The concept of Law)…En español no usamos el término ‘ley’ para denotar un enunciado normativo, en su lugar usamos ‘norma’, ‘artículo’, ‘precepto’ etc. Por otra par- te, en inglés no existe un significado equivalente a ‘ciencia del dere- cho’ en español como sinónimo de ‘dogmática jurídica’ o ‘doctrina’. El término más cercano sería ‘jurisprudence’ el cuál en español sería equivalente a ‘teoría general del derecho’ o ‘filosofía jurídica’ (como se usa en el clásico: The province of jurisprudence de John Austin).” 46 Una vez hecha esta disección analítica de la palabra ‘derecho’ es posible ensamblar una maquinaria en la que los distintos sentidos se conectan de manera coherente. En ese sentido ‘derecho1’ (en sen- tido objetivo) establece ‘derechos2’ subjetivos de acción (derecho a votar), así como ‘derechos3’ subjetivos a estados de cosas (a la salud), ‘derecho1’ es el objeto de estudio de ‘derecho4’ denotativo de la dog- mática jurídica o “ciencia” del derecho, diferente al de ‘derecho5’ en el sentido de las teorías filosófico-jurídicas. Como se puede apreciar, esta reconstrucción presupone al dere- cho creado por los órganos correspondientes (congresos, cortes, etc.) pero ¿qué sucede con los sentidos de ´derecho´ diferentes al jurídico? 46 Cáceres, E., Psicopatología forense. Derecho, neurociencias y sistema de justicia penal, Mé- xico, Bosch, 2016, p. 18. 78 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ La respuesta la podemos obtener si aplicamos conceptos básicos de la teoría general de sistemas: si al derecho en sentido jurídico o positivo lo consideramos un sistema normativo dado, entonces es posible hablar de una dimensión extrasistémica que incluiría lo que existe o sucede antes de la incorporación de nuevas normas al siste- ma, en la cual quedan comprendidos tanto los ´derechos6´ morales, como los ‘derechos7’ políticos. Lo anterior es relevante en este trabajo, porque los distintos sig- nificados de ‘derecho’ impacta en lo que en los ámbitos anglosajo- nes se ha dado en denominar ‘neurolaw’ y lo que en español ha sido referido con expresiones tales como ‘neuroley’, ‘neurociencia del derecho’, ‘neurociencia jurídica’,’neurojurisprudencia’. Al respec- to, en otros trabajos he sostenido que: “…la palabra ‘derecho’ se muestra como el mejor sintagma para instanciar la variable “x” en ‘neuro-x’ ya que cubre el mayor do- minio de denotación con respecto a otras expresiones como: ‘neu- roley’ que deja fuera de su dominio lo denotado por ´derecho´ en los demás sentidos de le expresión, por ejemplo, el de “ciencia del derecho”. Lo mismo ocurre con ‘neurociencia del derecho’ que elimina de su dominio a los demás sentidos, entre ellos el designa- do por la palabra ‘ley’, así como lo relativo a la regulación jurídica de las neurociencias. Otras semejantes como ´neurociencia jurí- dica´ presentan el inconveniente de justificar la adjetivación de la neurociencia y responder a la pregunta ¿en qué sentido un área del conocimiento como es la neurociencia es a la vez jurídica?”47 Con respecto a la expresión ‘neurojurisprudencia’ presenta el problema siguiente: ‘jurisprudencia’ en español también es polisé- mica y se refiere tanto a las decisiones judiciales del más alto nivel en la jerarquía jurisdiccional, como a ´ciencia del derecho’. Tomando en consideración el análisis anterior y el acuerdo de usar la expresión ‘neuroderecho’, en vez de cualquier otra propues- 47 Ibidem, p. 19. 79 Enrique Cáceres Nieto, Javier Diez García, Emilio García García ta alternativa, procedo a realizar la siguiente estipulación (una nue- va polisemia): Por neuroderecho se entiende: La interdisciplina encargada del estudio de los procesos neurocognitivos de los operadores ju- rídicos (‘neuroderecho1´), así como del papel de las neurociencias como auxiliares del derecho (‘neuroderecho2´), la regulación jurí- dica de la investigación neurocientífica (‘neuroderecho3´), así como la protección de derechos subjetivos vinculados con la actividad neurológica de los individuos (‘neuroderecho4´). El primer sentido, que bien podría denotarse con ‘neurociencia de los operadores jurídicos’ se puede entender como una rama de la neurociencia social y juega un papel semejante al de la neuroética o la neuroeconomía. El segundo sentido corresponde a la neurociencia forense ínti- mamente ligada con la epistemología jurídica aplicada y los pro- blemas relativos a la determinación de la verdad en el derecho. Por ejemplo, determinar si alguien es o no inimputable o si actuó dolo- samente. El tercer sentido se refiere a lo que podríamos llamar ‘derecho de las neurociencias’ cuyo objetivo es la regulación jurídica de la investigación neurocientífica. En este sentido sería equivalente a la ética de las neurociencias. En el último sentido podríamos hablar del derecho relativo a la protección de ‘neuroderechos1’ en sentido jurídico, es decir, como extensión de los derechos humanos positivizados. Llegado este punto es posible ubicar la relación entre ‘neuro- derecho´, neuroderechos y ‘neuroderechos1’´ desarrollados en este trabajo. La expresión ‘neuroderechos’ denota a un conjunto de derechos6 (morales) y por tanto ubicados en la extrasistematicidad del dere- cho1 (positivo), cuya incorporación en la dimensión intrasistemá- tica del derecho corresponde al neurodercho4. El objetivo central de esta investigación es exponer dichos neuroderechos y proponer 80 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ que pasen a ser ‘neuroderechos1’ mediante su positivización y re- conocimiento como pertenecientes a una cuarta generación de los derechos humanos. Retomando la maquinaria semántica ensamblada anteriormente en torno de los distintos sentidos de la palabra ‘derecho’, conjunta- mente con los de ‘neuroderecho’ y ‘neuroderechos’ se concluye que el papel del neuroderecho4 consiste en la incorporación de los neu- roderechos a la dimensión intrasistémica del ‘derecho1’ (en sentido objetivo) con el fin de transformarlos en neuroderechos1, es decir, como ‘derechos3’ (subjetivos a estados de cosas). Debe subrayarse que esta inclusión como una nueva generación de derechos huma- nos significa plasmarlos como normas programáticas cuyo paso del texto a la realidad social requerirá de la creación de los ‘derechos2’ (subjetivos de acción). Así como de la creación de las instituciones y sujetos obligados a realizar las conductas de acción u omisión de cuya observancia dependerá que los neuroderechos1 sean realmente eficaces y por tanto los estados de cosas a que se refieren los ‘dere- chos3’ (subjetivos a estados de cosas) tengan lugar. Conjuntamente con este primer paso sería importante la elabo- ración de legislación-tipo resultante del trabajo interdisciplinario entre juristas y neurocientíficos en la que se establezcan las condi- ciones de operatividad normativa capaz de hacer posible la imple- mentación de los neuroderechos1. vi. conclusión Los avances en biotecnologías y neurotecnologías ya disponibles, y especialmente las que se vislumbran en el horizonte, pueden ame- nazar la supervivencia de nuestra especie, la integridad genética, las condiciones ambientales, todo lo que nos hace humanos. Ocu- pan un primer plano cuestiones éticas radicales, como si debe se- guir viviendo el ser humano que conocemos, resultado del proceso evolutivo, si debemos respetar la herencia genética, la filogénesis 81 Enrique Cáceres Nieto, Javier Diez García, Emilio García García y ontogénesis de nuestro cerebro y las capacidades mentales, o si debemos procurar el mejoramiento total y superación de nuestra naturaleza, de modo que tomemos las riendas de nuestra evolución más allá de las leyes biológicas. Estas cuestiones deberían someterse a la información y debate, no sólo académico y reducido a niveles expertos, sino también abierto a toda la sociedad. Es necesario ex- plicitar los supuestos que están a la base de programas de investi- gación en grandes empresas biotecnológicas y laboratorios de élite, pero también de los mundos felices que se imaginan y venden en medios de masas. La biotecnología, la inteligencia artificial, la robótica y los siste- mas autónomos, el internet de todas las cosas, pueden traer prospe- ridad, contribuir a la calidad de vida, los objetivos socioeconómi- cos deseables y ayudar a alcanzar los ideales morales. Lo anterior es posible, solo si estas tecnologías se diseñan y se implementan de forma sensata, desde los valores y teniendo en cuenta los dere- chos, y particularmente los Neuroderechos. Pero los cambios que vivimos están creando en el mundo sociedades muy fragmentadas entre sí y en el seno de cada sociedad. Unas personas disponen de las condiciones vitales adecuadas, y reciben la educación necesaria para su desarrollo personal, y contribuir al desarrollo sociocultural, pero otras carecen de tales condiciones, y las personas viven en una peligrosa y creciente marginación, exclusión y subdesarrollo. Mil millones sobreviven en extrema pobreza, sin acceso siquiera a agua potable, y sólo aspiran a una vida, en la que estén satisfechas sus necesidades más básicas. La biotecnología, la neurotecnología, la robótica, inteligencia artificial y el internet de todas las cosas pretenden mejorar las con- diciones y calidad de vida de las personas, pero deben considerar a todas las personas. Cuando se plantean versiones más radicales transhumanistas de mejorar la naturaleza humana, o formulaciones más distópicas posthumanistas de lograr una nueva naturaleza para nuestra especie, que ya no sería propiamente humana, conviene lla- 82 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ mar la atención sobre los problemas que hoy tiene la humanidad, y que son más importantes y urgentes, y no dejarse llevar por lo que pueden ser estrategias de distracción y de huida hacia adelante. vii. FuEntEs consultAdAs ANGWIN, Julia, et al., Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks, 2016. Disponible en: Go.nature.com/29aznyw. BONETE, E., Neuroética práctica, Bilbao, Desclée de Brouwer, 2010. CÁCERES, E., Psicopatología forense. Derecho, neurociencias y sistema de justicia penal, México, Bosch, 2016. CHANGEUX, J-P., Sobre lo verdadero, lo bello y el bien, Madrid, Katz Editores, 2010. CHURCHLAND, P. S. Braintrust: what neuroscience tells us about moral- ity, Princeton, New Jersey, Princeton University Press, 2011. CORTINA, A., Neuroética y Neuropolítica, sugerencias para la educación moral, Madrid, Tecnos, 2011. _______, (Ed), Guía Comares de Neurofilosofía práctica, Granada, Edi- torial Comares, 2012. DAMASIO, A., El error de Descartes, Barcelona, Crítica, 1996. _______, Y el cerebro creó al hombre, Barcelona: Destino, 2010. DE WAAL, F., Bien natural. Los orígenes del bien y del mal en los humanos y otros animales, Barcelona, Herder, 1997. _______, La edad de la empatía, Barcelona, Tusquets, 2015. DIEGUEZ, A., Transhumanismo La búsqueda tecnológica del mejoramiento humano, Barcelona, Herder, 2017. 83 Enrique Cáceres Nieto, Javier Diez García, Emilio García García DUBOIS, J., EBERHARDT, F., PAUL, L.K., et al., Personality be- yond taxonomy. Nature Human Behaviour, 2020. DOI: https:// doi.org/10.1038/s41562-020-00989-3. EVERS, K., Neuroética. Cuando la materia se despierta, Madrid, Katz Editores, 2010. FEITO GRANDE, L., Neuroética. Cómo hace juicios morales nuestro cere- bro, Madrid, Plaza y Valdés, 2019. FUSTER, J., The Prefrontal Cortex, New York, Raven Pres, 1997. _______, Cortex and Mind: Unifying Cognition, New York, Oxford Uni- versity Press, 2003. _______, Cerebro y libertad, Barcelona, Ariel, 2014. FUTURE OF LIFE INSTITUTE, Asilomar AI Principles. Disponible en: go.nature.com/2ihnqac. GARCÍA GARCÍA, E., “Derechos humanos y calidad de vida”, en González R. Arnaiz, et al., Derechos Humanos. La condición humana en la sociedad tecnológica. Madrid, Tecnos, 131-163, 1999. _______, “Desarrollo de la mente: filogénesis, sociogénesis y onto- génesis”, en M. Maceiras y L. Mendez (Ed.), Ciencia e investi- gación en la sociedad actual. Salamanca: San Esteban Editorial, 95-128, 2010. _______, “Neuropsicología del comportamiento moral”, en J. de la Torre (ed.), Neurociencia, neuroética y bioética, Madrid, Universi- dad Comillas, 43-75, 2014. _______, “Neurociencia, humanismo y posthumanismo”, Logos, 53, 9-31, 2020. GARCIA RUIZ, P. y SANCHEZ BARAJAS, M. (Coord.), Natura- lizar la filosofía práctica. La ética en dialogo con las neurociencias, México, UNAM, 2019. 84 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ GAZZANIGA, M., El cerebro ético, Barcelona, Paidos, 2006. _______, Qué nos hace humanos, Barcelona, Paidos, 2010. GLASSER, M. et al., “A multi-modal parcellation of human ce- rebral cortex”, Nature, 536, 171-78, 2016. DOI: 10.1038/na- ture18933. GOLDBERG, E., El cerebro ejecutivo, Barcelona: Crítica, 2002. _______, La paradoja de la sabiduría, Barcelona, Crítica, 2009. GREENE, J., “From neural “is” to moral “ought”: what are the moral implications of neuroscientific moral psychology”, Na- ture Neuroscience Reviews, 4, 847-850, 2003. _______, et al., The neuronal bases of cognitive conflict and control in moral judgement, Neuron, 44, 39-400, 2004. _______, “The cognitive neuroscience of moral judgement”, en M. Gazzaniga (Ed.), The Gognitive Neurosciences IV, Cambridge, MIT Press, 2009. _______, Moral Tribes. Emotion, reason and the gap between us and them, New York, Penguin, 2013. GRUPO DE ESTUDIO evaluación de la Tecnología de la Digitali- zación, Informe sobre los Principios Asilomar en Inteligencia Artificial, Berlín, 2018. GRUPO EUROPEO sobre Ética de la Ciencia y Nuevas Tecnolo- gías, Inteligencia artificial, Robótica y Sistemas Autónomos, Bruselas, 2018. HAIDT, J., The emotional dog and its rational tail, a social intu- itionist approach to moral judgement, Psychological Review, 108, 814-834, 2001. HARARI, Y. N., Homo Deus. Breve historia del mañana, Barcelona, De- bate, 2017. 85 Enrique Cáceres Nieto, Javier Diez García, Emilio García García HART, H., El concepto de derecho, trad. Genaro R. Carrio, México, Editora Nacional, 1961. HAUSER, M., La mente moral, Barcelona, Paidos, 2008. ILLES, J., Neuroethics, Oxford, University Press, 2006. _______, “Neurologisms”, American Journal of Bioethics-Neuroscience, 2009. INSTITUTO DE INFORMÁTICA Y NEUROIMAGEN de la Usc Mark y Mary Stevens, El proyecto del conectoma, Univer- sity of Southern California. Disponible en: www.humanconnec- tomeproject.org. KANDEL, E., En busca de la memoria, Buenos Aires, Katz, 2007. LA INICIATIVA BRAIN. Disponible en: www.braininitiative.org/. LEVY, N., Neuroethics, New York, Cambridge University Press, 2007. LURIA, A., El cerebro humano y los procesos psíquicos, Barcelona, Fon- tanella, 1979. _______, Las funciones corticales superiores del hombre, Barcelona, Fon- tanella, 1983. MARCUS, S., Neuroethics: Mapping the field, New York, Dana Press, 2002. MORA, F., Neurocultura, Madrid, Alianza Editorial, 2007. OFFICE FOR HUMAN RESEARCH PROTECTIONS, The Belmont Report. Disponible en: go.nature.com/2hrezmbgo.nature. com/2ihnqac. PROYECTO CEREBRO HUMANO. Disponible en: https://www. humanbrainproject.eu/en/. RAMACHANDRAN, V., Los laberintos del cerebro, Barcelona, Liebre de marzo, 2008. 86 Revista del posgrado en derecho de la UNAM | revistaderecho.posgrado.unam.mx año 8, Nº 15, Julio - diciembre 2021 | https://doi.org/ _______, Lo que el cerebro nos dice, Barcelona, Paidos, 388, 2012. ROSKIES, A., “Neuroethics for the new millennium”, Neuron, 35, 21-23, 2002. SAVULESCU, J., Decisiones peligrosas. Una ética desafiante, Madrid, Tecnos, 2012. SEPULCRE, J., Redes cerebrales y plasticidad funcional, Barcelona, Emse Edapp, 2018. SEUNG, S., Conectoma. ¿Cómo las conexiones neuronales determinan nuestra identidad? Barcelona, RBA, 2012. SPORNS, O., Networks of the Brain, Massachusetts, MIT Pres, 2016. TOMASELLO, M., Los orígenes culturales de la cognición humana, Bue- nos Aires, Amorrortu, 2007. VAZQUEZ-BOURGON, J., MARTINO, J., SIERRA, M., et al, “La estimulación cerebral profunda en el trastorno obsesi- vo-compulsivo. Una revisión sistemática” Revista de Psiquia- tría y Salud Mental, 12, pp. 37-51, 2019. DOI: org/10.1016/j. rpsm,2017.05.005. WORLD MEDICAL ASSOCIATION DECLARATION OF HELSINKI, Declaration of Helsinki. Disponible en: go.nature. com/2z262ag. YUSTE, R., GOERING, S., et al., “Four ethical priorities for neu- rotechnologies and AI”, Nature, 551, 159-163, 2017. ZORZO, C., BANQUERI, M., HIGARZA, S., PERNIA, A., ARIAS, J., “Estado actual de la estimulación magnética trans- craneal y sus aplicaciones en psiquiatría” Actas Españolas de Psiquiatría, 47 (3), 110-121, 2019.