Publicado posteriormente en versión abreviada en UniversidadSí.
Ética para Ingenieros
Hace unos días leía este breve artículo de Andy Miah en el Times Higher Education sobre la reciente película de Christopher Nolan: ‘Oppenheimer’ is a warning against the pursuit of STEM for its own sake. El autor dice:
Perhaps the greatest wisdom in Oppenheimer is that the mindless pursuit of STEM for its own sake, without attention to how intellectual journeys must be informed by moral and social insight, puts the world in a persistent state of tension. If we look for recognition of this in the curricula of the most advanced science and technology subjects, we find very little. How many courses on artificial intelligence, for instance, make time for ethical debate?
Tal vez la mayor sabiduría de Oppenheimer sea que la búsqueda sin sentido de las STEM por sí mismas, sin prestar atención a cómo las aventuras intelectuales deben estar informadas por el discernimiento moral y social, pone al mundo en un estado persistente de tensión. Si buscamos el reconocimiento de esto en los planes de estudio de las asignaturas más avanzadas de ciencia y tecnología, encontramos muy poco. ¿Cuántos cursos sobre inteligencia artificial, por ejemplo, dedican tiempo al debate ético?
(Tengo que decir que en el Máster en Inteligencia Artificial Aplicada de mi universidad sí que hay un curso dedicado a las Implicaciones Éticas y Legales de la IA.)
Albert Einstein (1879-1955) y Robert Oppenheimer (1904-1967)
No es ningún secreto que estoy personalmente comprometido con esta tarea de promover la reflexión ética sobre la tecnología, y su importancia en la enseñanza universitaria. En los primeros tiempos de este blog publiqué un artículo sobre Einstein y la ética, donde recogía un alegato suyo de 1946 en pro de la renovación de nuestra forma de pensar tras el desastre de la Segunda Guerra Mundial:
Nuestro mundo se enfrenta a una crisis todavía imperceptible para aquellos que poseen el poder de tomar grandes decisiones para bien o para mal. El poder desencadenado del átomo lo ha cambiado todo excepto nuestras formas de pensar, y de este modo, avanzamos sin rumbo hacia una catástrofe sin precedentes. Los científicos que hemos liberado este inmenso poder tenemos una responsabilidad abrumadora en esta lucha mundial a vida o muerte para dominar el átomo en beneficio del género humano, y no para la destrucción de la humanidad. Necesitamos doscientos mil dólares de una vez para lanzar una campaña nacional que haga saber a las personas que una nueva forma de pensar es esencial para que la humanidad sobreviva y avance hacia niveles más altos.
Pero esta “nueva forma de pensar” no es nada fácil de articular en un curso universitario. ¿Cómo vamos a enseñar ética en la universidad cuando la sociedad es mayoritariamente escéptica respecto a la racionalidad de la ética? ¿Y qué ética podemos enseñar en la universidad? Queremos enseñar ética a los ingenieros, queremos programar máquinas éticas; pero no creemos en la racionalidad de la ética. Entonces, ¿qué nos queda? No podemos enseñar la ética más que como una visita a un museo de curiosidades.
¿Qué tiene que ver todo esto con Nietzsche?
Friedrich Nietzsche (¿eres capaz de escribirlo a la primera sin equivocarte en una sola letra?) es uno de los pensadores más influyentes en la ética desde el siglo XIX. Frente a una tradición moral occidental que él describe como esclavizadora, puesto que consiste principalmente en el sometimiento a un conjunto de normas cuyo origen y significado se ha perdido en la niebla de los tiempos, Nietze, Nitche, ¡Nietzsche!, es un vitalista, alguien que apuesta por la exuberancia de la vida. Tu vida no consiste en realizar un programa diseñado por otros, sino en romper todas las barreras y cumplir las metas que tú mismo te propongas.
Esta crítica de Nietzsche a la moral occidental la vemos continuamente en el cine, cada vez con más frecuencia en las películas de Disney-Pixar (Vaiana, Red, Elemental…), donde los adolescentes se enfrentan a sus padres, sus prejuicios morales, y todo lo que representan: estabilidad, saber cuál es tu sitio, cumplir las normas que nos mantienen a salvo; no preguntes, no arriesgues, no te saltes los límites.
Friedrich Nietzsche (1844-1900)
Cuando empecé a escribir –con Ignacio– sobre los robots y la libertad dije algo muy parecido: libertad es autodeterminación. Y no solo para seguir o no el camino que otros han trazado, sino para elegir tu propio camino. ¿Cómo no me va a resultar interesante Nietzsche? Pero ya entonces señalaba dos dificultades en esta noción de libertad como absoluta autodeterminación:
Así entendida, la autodeterminación plantea dos difíciles problemas que no vamos a resolver aquí. El primero, de carácter metafísico, es el problema mente-cuerpo, es decir, la relación entre lo inmaterial y lo material (…). El segundo es el problema moral de la arbitrariedad en la elección autodeterminada de los fines: ¿Importa si uno elige este o aquel fin para su vida? ¿Hay ciertos fines mejores que otros?
También escribí –con Charo– sobre la autodeterminación y la educación en libertad en la formación de los y las estudiantes de ingeniería:
En el ámbito donde yo enseño, un ingeniero que solo es capaz de aplicar normas y estándares, y hacer lo que le digan (y solo lo que le digan), es un ingeniero muy mediocre. Un ingeniero que tiene inventiva para resolver problemas difíciles, a menudo en situaciones nuevas e inesperadas, es mucho más valioso. Pero solo ha alcanzado su pleno desarrollo el ingeniero que tiene el empuje necesario para proponerse él mismo los problemas que quiere resolver. (…) Educar a una persona libre debe dejar espacio para la creatividad y la autodeterminación, puesto que una persona libre, al contrario que una máquina, no ha sido diseñada con un objetivo bien definido que tenga que lograr de modo verificable. Una persona libre tiene que descubrir su propio camino hacia la plenitud, su ideal personal y su originalidad, también en el desarrollo de la vida profesional, que no puede consistir sólo en alcanzar objetivos elegidos por otros.
Nietzsche rechaza cualquier determinación externa de los fines de la vida, ve en ello siempre el fantasma de una moral teológica absoluta venida del cielo. Su postura puede expresarse así: yo doy sentido, yo soy el que da sentido a mi vida, mi vida no tiene ningún otro sentido fuera del que yo mismo le doy. En eso consiste el Übermensch, la superación del animal-hombre, sometido a un código moral extrínseco: el superhombre, el hombre superior capaz de generar su propio sistema de valores.
¡Mirad, yo os enseño el superhombre!
El superhombre es el sentido de la tierra. Diga vuestra voluntad: ¡sea el superhombre el sentido de la tierra! ¡Yo os conjuro, hermanos míos, permaneced fieles a la tierra y no creáis a quienes os hablan de esperanzas sobreterrenales! Son envenenadores, lo sepan o no.
Son despreciadores de la vida, son moribundos y están, ellos también, envenenados, la tierra está cansada de ellos: ¡ojalá desaparezcan!
La idea de Bien: lo sagrado y lo extrínseco
Decía Ludwig Wittgenstein que “la filosofía desata los nudos de nuestro pensamiento, los nudos que nosotros estúpidamente hemos hecho en él” (Philosophical Remarks, p. 52. Editado por R. Rhees, Oxford: Blackwell, 1975). A mi modo de ver, aquí hay un nudo mental difícil de desatar:
- Con Nietzsche: la vida ética no puede consistir únicamente en seguir un código moral extrínseco y, por supuesto, no es eso lo que se debe enseñar en un curso universitario de ética.
- Contra Nietzsche: la vida ética no puede consistir sin más en la elección arbitraria, caprichosa, de valores morales. Ni de modo individual, ni tampoco colectivamente.
¡Menudo lío!
No sé si soy capaz de arrojar algo de luz sobre esta cuestión. Pero pienso que una forma eficaz de empezar a deshacer este nudo es preguntarse: ¿Puede haber algo más importante que el placer, el poder y el dinero? ¿Puede haber algún Bien al que yo me someta libremente, sin que eso implique la castración de mi propio ser? ¿Puede ser que la búsqueda de ese Bien redunde no en mi aniquilación sino en mi propio crecimiento hacia mi plenitud personal?
Tal vez, me atrevo a decir, Nietzsche incurre en un falso dilema: o moral teológica absoluta y extrínseca que viene del cielo, o moral creada por los hombres sin ningún referente externo a su voluntad. ¿No puede ser que la raíz de la moral esté justamente en el reconocimiento de lo que somos? Así escribí anteriormente en respuesta a un anti-esencialista:
Sólo podemos escapar de la arbitrariedad si nos sometemos a algo que reconocemos superior a nosotros mismos: el Otro, reconocido por lo que es, es decir, por su esencia. (…) Yo, hereje esencialista, defiendo que el reconocimiento de la dignidad del otro es lo único que nos protege de la voluntad arbitraria, del puro deseo sustentado en el poder de actuar. Solo el reconocimiento de la dignidad del otro puede hacer que yo prefiera un bien que no sea mi propio bien egoísta. Y así es como cedo ante la fuerza de la razón, en lugar de ceder ante la razón de la fuerza.
Reconocer la dignidad del otro como algo intocable, sagrado (homo homini sacra res), no es apelar a una fuente de moralidad extrínseca, venida del cielo, impuesta desde fuera. (De hecho, lo extrínseco sería otorgar dignidad al otro porque me da la gana otorgársela.) Ciertamente, la ética no debe fundamentarse en algo extrínseco; pero es que fundamentar la ética en lo que las cosas son, es justo lo contrario, es reconocer que la dignidad es algo intrínseco de todas las personas.
Este verano tuve la fortuna de asistir a un concierto en Amsterdam de la European Union Youth Orchestra. Interpretaron Así habló Zaratustra, de Richard Strauss (sin duda la obra musical preferida de una inteligencia artificial como HAL 9000). Entre los músicos estaba Almudena, hija de Ignacio, que es una magnífica violinista. Me quedé pensando que las normas de uso del violín no son extrínsecas al mismo violín, surgen de su propia estructura; si quieres sacar lo mejor del violín, tienes que tocarlo como pide, no vale de cualquier manera.
Corolario: la vida en plenitud está en germen ya en el inicio de la propia vida, no es un programa que se le imponga desde fuera.
Almudena y su violín
Homo homini sacra res –el hombre es algo sagrado para el hombre– es una célebre frase del filósofo romano-cordobés Séneca, adoptada como lema por la Universidad Carlos III de Madrid.
Soy poco original: recomiendo sin dudarlo la película Oppenheimer. Y recomiendo también La filósofa que humilló al Presidente de EEUU, sobre la valerosa oposición de Elizabeth Anscombe a la concesión del doctorado honoris causa a Harry Truman por la Universidad de Oxford en 1956. Anscombe, que fue también albacea de Wittgenstein, fue en el siglo XX referente principal en la renovación de la ética de la virtud y la filosofía neo-aristotélica.
También he leído, entre las muchísimas cosas que se han publicado sobre la película, este artículo de Robert Lochhead: Hiroshima, Nagasaki, 6 y 9 de agosto de 1945. La construcción del mito (aquí el que parece ser el original en francés, y aquí otra traducción diferente). El autor desmonta la tesis oficial –repetida en la película– de que “la bomba atómica fue necesaria para que Japón se rindiera y que la bomba salvó la vida a cientos de miles de soldados estadounidenses y japoneses que habrían muerto en los combates con un desembarco en territorio japonés”.
Es interesante el contraste con la postura anterior. Lochhead asegura que no es verdad que la bomba fue necesaria, y además esto se sabía; pero, ¿y si hubiera sido necesaria? Anscombe, en cambio, aun aceptando que la consecuencia “positiva” de la bomba fuera la rendición inmediata de Japón, sostiene que fue un crimen de guerra injustificable. Hay acciones “malas en sí mismas”, como el asesinato de civiles inocentes, que no se pueden justificar, por muy buenas que sean las consecuencias.
Termino ya con una última referencia: La dolorosa historia que no cuenta Oppenheimer, de Ngofeen Mputubwele, sobre las terribles condiciones en que trabajaban los mineros congoleños para extraer el uranio que se usó en la bomba.
De máquinas e intenciones 
Un amigo me envía un estupendo artículo publicado ayer en The New York Times: The Moral Deficiencies of a Liberal Education. En este caso toma pie de la reacción habida en algunos campus universitarios estadounidenses al ataque terrorista de Hamas, para incidir en cuestiones semejantes a las que yo he tratado aquí. Me tomo la libertad de copiar algunos párrafos.
===
When a coalition of 34 student organizations at Harvard can say that they “hold the Israeli regime entirely responsible for all unfolding violence” and students at other elite universities blame Israel alone for the attack Hamas carried out on Israelis on Oct. 7 or even praise the massacre, something is deeply wrong at America’s colleges and universities. (…)
Ethics are rarely either/or. It is possible to condemn the barbarism of Hamas and condemn the endless Israeli occupation of the West Bank. (…) We need to ask ourselves: What is in our curriculums? What do we think it means to be well educated? What moral stands are we taking? The timidity of many university leaders in condemning the Hamas massacre and antisemitism more generally offers the wrong example. Leaders need to lead. (…)
Instead, colleges and universities need to be more self-critical and rethink what it means for students to be educated. For the last 50 years, with a few exceptions, higher education has been reducing requirements. At the same time, academia has become more hesitant: We often avoid challenging our students, avoid putting hard questions to them, avoid forcing them to articulate and justify their opinions. All opinions are equally valid, we argue. We are fearful of offending them. (…)
Creating a curriculum must be a collective effort that engages all members of our colleges and universities. College presidents and professors should stop focusing on endowments and fund-raising, tuitions and the earnings of our graduates. We must focus on the core mission: figuring out what it means to graduate educated people. In turn, this requires us to articulate and justify what we think education is so that we never again have our students make patently uneducated and alarmingly immoral declarations.
Me gustaMe gusta