Esta galería contiene 5 fotos.
Universidade de Caxias do Sul, Brasil Seminario Internacional de Ética e Inteligencia Artificial: Escenario y Perspectivas Conferencia invitada (en español) Una lección aprendida de la IA: la ética no es un juego de imitación Lunes, 21 de noviembre de 2022 … Sigue leyendo
Esta entrada fue publicada posteriormente en Fronteras CTR.
En el mundo STEM (ciencia, tecnología, ingeniería y matemáticas) la ética se percibe a menudo, en el mejor de los casos, como un conjunto de regulaciones bienintencionadas, tendentes a poner límites a las conductas individuales o corporativas que amenazan el bien de la sociedad, pero poco realistas en el mundo competitivo en el que vivimos. Tampoco se puede ignorar que nuestro entorno cultural es profundamente reacio a la aceptación de una ética que no sea subjetiva; aunque, paradójicamente, una ética rigurosa se eche en falta cuando se denuncia la corrupción de tantos personajes públicos. Muchos de los estudiantes y profesionales STEM podrían decir al enfrentarse con la ética, con una buena dosis de escepticismo: “La ética es puramente subjetiva o ideológica, ajena al mundo objetivo y medible en el que nos movemos los de ciencias”.
Y, no obstante, estoy convencido de que la pregunta por la ética, aunque las excede, surge de modo natural de la propia práctica de la ciencia y, sobre todo, de la ingeniería.
Prejuicios culturales
La ética es posiblemente la única rama de la filosofía que ninguna persona podrá ignorar cuando se tope con ella. Por supuesto, tampoco quienes se dediquen a la ciencia y la tecnología. Aunque una visión superficial pueda sugerir que la ética es algo ajeno a las profesiones STEM (salvo para poner incómodas barreras a la eficacia), en realidad tienen un fuerte lazo que las une: el interés por cambiar el mundo a mejor.
Seguramente estamos bastante familiarizados con un supuesto axioma ético que viene a decir: “todo lo que se puede hacer, se debe hacer”. Es, aparentemente, el axioma fundamental de aquellos científicos que no admiten ningún tipo de freno en sus investigaciones. También se puede formular así: “el saber científico es algo bueno, y cualquier cosa que lo impida es algo malo, fruto de la intolerancia o de una mentalidad retrógrada y oscurantista”.
Portada de Should we fear artificial intelligence?
Esta postura, sin duda extrema, suele ir asociada en el cine y la literatura de ficción al típico científico loco; o bien al emprendedor sin escrúpulos –el fin justifica los medios–, que está empeñado en un proyecto tecnológico revolucionario que tendrá previsiblemente –desde nuestro punto de vista, no desde el suyo– consecuencias desastrosas para la humanidad. Estas historias nos previenen contra la falta de límites éticos en ciencia y la tecnología, y en ese sentido tienen un efecto positivo (aunque nos dejen con el regusto amargo de que la ciencia pueda tener consecuencias perniciosas, cuando instintivamente pensamos que no debería ser así).
Sin embargo, estas historias tienden también a consolidar un prejuicio cultural muy extendido: que la ética consiste principalmente en establecer prohibiciones o barreras que impiden la eficacia en los negocios y en los procesos productivos (y, en general, barreras para disfrutar de cualquier cosa que se perciba como eficaz o placentera). Se transmite así una visión fundamentalmente negativa de la ética, olvidando lo que de hecho constituye la raíz del pensamiento ético occidental: la ética es algo esencialmente positivo y creativo, que busca no tanto prohibir determinados comportamientos, como procurar el bien, inventando si hace falta nuevas formas de realizarlo.
Esta idea positiva y genuina de la ética –búsqueda del bien– no está reñido en absoluto con la eficacia, simplemente la pone en su sitio. Es más, la ética no se conforma con mediocridades; la ética requiere lograr la eficacia, aunque ciertamente no a cualquier precio. En definitiva, lejos de consistir primariamente en un conjunto de prohibiciones, la ética es el verdadero motor del progreso técnico que la sociedad necesita, porque no permite conformarse con el estado actual de cosas.
Ahora bien, la mentalidad científica nos lleva a desarrollar un sano sentido crítico que nos hace desconfiar de lo que no sea conocimiento racional. La ética es sin duda diferente de dos formas de conocimiento que en el ámbito tecnológico resultan familiares: el método científico-experimental (física, química, etc.) y el método axiomático-deductivo (matemáticas y lógica). Pero ninguno de estos dos métodos es satisfactorio para lograr una ética racional. ¿Significa eso que la ética no puede ser racional?
Racionalidad ética y racionalidad científica
Detengámonos primero en esta afirmación: la racionalidad ética no puede alcanzarse ni con el método científico-experimental ni con el método axiomático-deductivo. ¿Por qué? Respecto a lo primero, porque la ciencia se ocupa del conocimiento puro de los fenómenos de la naturaleza: cómo se atraen las estrellas y planetas y otros cuerpos con masa, cómo se forman los enlaces químicos entre átomos, cómo se transmite la herencia genética de padres a hijos. La ciencia se ocupa de describir cómo es el mundo, no de cómo debería ser.
No es ni bueno ni malo que haya 8(9) planetas
La ciencia no dice “esto es bueno y esto es malo”, sino simplemente “esto es así”. Decir “esto es malo” es tanto como decir “no debería ser así, tenemos que hacer algo para cambiarlo”, y esto es algo que se escapa de la competencia propia del método científico. Por ejemplo, la ciencia puede decir cómo se gesta y transmite una enfermedad; pero, en sí misma, la idea de que algo es una enfermedad que habría que combatir es ajena al método científico, estrictamente considerado. El conocimiento científico de la enfermedad sirve tanto para curarla como para emplearla como arma de guerra.
Por si no ha quedado claro, cuando digo que “la ciencia se ocupa de” no estoy hablando del científico como persona, que muy bien puede querer cambiar el mundo a mejor con su trabajo, sino de lo que está al alcance del método científico en sentido estricto. Ciertamente, el mismo deseo de conocer la verdad ya denota una preocupación ética personal.
Por otra parte, las matemáticas y la lógica se basan en razonamientos rigurosamente deductivos que parten de axiomas básicos, como los cinco axiomas de la geometría euclídea, a partir de los cuales se desarrolla toda la geometría que necesitamos para construir barcos y edificios, y para medir el terreno y repartirlo entre varios propietarios. Estos axiomas básicos se aceptan sin requerir demostración previa, al contrario que las demás proposiciones matemáticas, que se denominan teoremas. Los teoremas se demuestran a partir de los axiomas básicos y de otros teoremas ya demostrados. Si requiriésemos que los axiomas también fuesen demostrados, entonces se necesitaría una cadena sin fin de demostraciones, que a la postre no demuestra nada.
Así pues, hace falta un punto de partida absoluto para las demostraciones, y esto son los axiomas. Antiguamente se consideraba que los axiomas se aceptan porque son verdades evidentes. Hoy día, en las matemáticas fundamentales, ya no se pretende que los axiomas son evidentes, y de hecho se construyen distintos sistemas matemáticos a partir de conjuntos diferentes de axiomas, incluso contradictorios (como, por ejemplo, las geometrías no euclídeas, desarrolladas en el siglo XIX y que tuvieron un impacto importante en el desarrollo de la Teoría de la Relatividad).
La cuestión que nos interesa ahora es que podríamos construir un sistema ético perfectamente riguroso mediante demostraciones a partir de axiomas éticos. Uno de estos axiomas podría ser, por ejemplo, la igual dignidad de todos los seres humanos. Pero siempre podríamos plantearnos la pregunta, ¿por qué este axioma y no otro? Apelar a la evidencia, desde luego, no sería suficiente, puesto que la falta de acuerdo generalizado en tantas cuestiones desafía precisamente esa supuesta evidencia.
En definitiva, el método científico-experimental es insuficiente, porque los experimentos no nos dicen qué tenemos que hacer; y el método axiomático-deductivo es también insuficiente, porque puede ayudarnos a organizar y pulir nuestros razonamientos, pero no puede responder a la pregunta radical sobre cuáles son los axiomas éticos fundamentales. Acostumbrados como estamos a pensar que estas dos son las formas genuinas de racionalidad, ¿debemos concluir que la ética no puede ser racional?
Racionalidad ética y racionalidad tecnológica
Antes de afrontar esta cuestión, veamos qué ocurre con la ingeniería y la tecnología. Como ya hemos visto, la ciencia se ocupa del conocimiento puro de los fenómenos de la naturaleza, sin preocuparse en un principio por sus aplicaciones prácticas. La tecnología, en cambio, se ocupa de la producción de artefactos para mejorar la vida humana; es decir, al contrario que la ciencia pura, la tecnología sí trata de cambiar el mundo. Los ingenieros no se contentan con contemplar el mundo de modo teórico. Quieren transformarlo: quieren modificar el curso de los ríos y redistribuir el agua que baja de las montañas para que riegue unos campos u otros; quieren calentar una vivienda (o enfriarla) porque no se conforman sin más con la temperatura que ofrece la naturaleza; quieren mejorar los cultivos, la producción de alimentos, la distribución de energía eléctrica. Y, para lograrlo, construyen artefactos de todo tipo, desde máquinas elementales como la palanca o la polea, hasta centrales eólicas y ordenadores electrónicos.
Notemos que de aquí se deriva una conclusión importante, y es que la racionalidad tecnológica no puede reducirse –tampoco– a racionalidad científica-experimental, ni a racionalidad lógico-matemática. Obviamente, la ingeniería precisa de los conocimientos científicos y matemáticos, porque solo un conocimiento verdadero posibilita la construcción de artefactos útiles. Pero, en la medida en que la tecnología no se conforma con conocer cómo son las cosas, sino que quiere introducir novedades en el mundo, en esa misma medida no basta con saber ciencias y matemáticas para hacer tecnología: hace falta proponerse objetivos transformadores de la realidad para hacerla más habitable [1]; algo que, como ya hemos dicho, va más allá del propósito de las ciencias básicas.
¿Hacia dónde canalizar el agua? ¿A quién debería beneficiar?
Esta reflexión establece un puente muy interesante entre la tecnología y la ética: la tecnología quiere transformar el mundo, pero no sabe para qué. La tecnología se propone objetivos parciales, pero no sabe cuál es el objetivo último de la humanidad y de cada persona. Si la tecnología llega a preguntarse para qué, esa es una pregunta que ella misma no puede responder (ni tampoco la ciencia, claro): es una pregunta ética. Como explica Ernst Friedrich Schumacher en El mayor recurso, la educación [2], tanto la tecnología como la ética se proponen la transformación del mundo, pero mientras que la tecnología se ocupa de optimizar los medios para conseguir el cambio deseado (“saber cómo”), la ética se ocupa de valorar los fines (“saber qué”); es decir, se ocupa de reflexionar sobre los fines que son deseables y los medios que no se dejan a la humanidad en el camino: ¿Qué cambio queremos, que cambio debemos querer? ¿Qué medios son lícitos, de qué modos no perdemos la humanidad en el camino?
Ernst Friedrich Schumacher (1911–1977)
Vienen a cuento también aquí esas palabras de Albert Einstein en una conferencia radiofónica de 1941: lo que caracteriza nuestra época es la perfección del método y la confusión de objetivos.
De acuerdo al programa de la Ilustración y la Modernidad, el papel de la ciencia y la tecnología es mejorar las condiciones materiales de la humanidad. Ahora bien, “qué cuenta como mejora” es una pregunta que surge en la ingeniería, pero que no puede ser respondida desde dentro de ella, lo que pone de manifiesto su vinculación con la ética y el mundo de los valores. Sin esta reflexión sobre los fines, la tecnología caerá en la búsqueda incesante de una eficacia que no se sabe para qué se quiere [3].
O, peor aún, con una motivación menos confesable, solo servirá para procurar el dominio de unos hombres sobre otros hombres. Como escribe C.S. Lewis en La abolición del hombre [4]:
Lo que llamamos el poder del Hombre sobre la Naturaleza se revela como un poder ejercido por algunos hombres sobre otros con la Naturaleza como instrumento.
Síntesis: racionalidad científica, racionalidad tecnológica, racionalidad ética
A modo de síntesis, podemos decir que la ciencia (razón teórica) se ocupa del conocimiento puro de los fenómenos de la naturaleza, sin preocuparse en un principio por sus aplicaciones prácticas. La tecnología (razón productiva) se ocupa de la producción de artefactos para mejorar la vida humana. La ética (razón práctica) es el saber racional reflexivo acerca del comportamiento humano libre y sus medios y fines, buenos o malos.
La ciencia no basta para fundar la ética, ya que la ciencia se ocupa de lo que ocurre, mientras que la ética se ocupa de lo que debería ocurrir. La tecnología precisa de los conocimientos científicos, porque solo un conocimiento verdadero posibilita la construcción de artefactos útiles. Pero la tecnología precisa también de la ética, puesto que por sí misma no puede decidir qué artefactos vale la pena construir, qué hay que cambiar en el mundo.
De modo que, contra lo que pretende el positivismo, quedan desmentidos esos dos tópicos de nuestra cultura que ya he citado otras veces: que las ciencias naturales tienen el monopolio del saber racional y objetivo; y que con el tiempo suficiente, y sin las rémoras y los prejuicios de la tradición, la técnica podrá solucionar todos nuestros problemas [5]. No basta saber y poder. Hay que querer, y el querer y sus razones son el tema de la ética.
Referencias
[1] María G. Amilburu, Aurora Bernal, Mª Rosario González Martín. Ecología ambiental y ecología humana. Capítulo 6.1 de Antropología de la educación. La especie educable. Madrid: Síntesis, 2018.
[2] Ernst Friedrich Schumacher. El mayor recurso, la educación. Capítulo 6 de Lo pequeño es hermoso. Barcelona: Blume, 1978.
[3] Gonzalo Génova, María del Rosario González. Teaching Ethics to Engineers: A Socratic Experience. Science and Engineering Ethics 22(2):567-580, April 2016. Manuscrito.
[4] Clive Staples Lewis. The Abolition of Man. Oxford: Oxford University Press, 1943. La abolición del hombre. Madrid: Encuentro, 2016
[5] Ignacio Quintanilla Navarro. Techné: la filosofía y el sentido de la técnica. Madrid: Common Ground España, 2012.
Créditos de las imágenes
https://www.europarl.europa.eu/RegData/etudes/IDAN/2018/614547/EPRS_IDA(2018)614547_EN.pdf
http://www.astromia.com/solar/planetas.htm
https://grupochamartin.com/noticias/la-intrincada-historia-de-los-sistemas-de-riego/
https://en.wikipedia.org/wiki/E._F._Schumacher
Elaboración propia
Esta galería contiene 1 foto.
Jueves, 10 de noviembre de 2022 a las 15:00 Salón de Grados, edificio Menéndez Pidal (Biblioteca), campus Colmenarejo En el marco de la Semana de la Ciencia 2022 en la UC3M Entrada libre hasta completar aforo Muy importante, reserva tu … Sigue leyendo
Esta galería contiene 4 fotos.
Hoy va de Kant, Immanuel Kant. Más específicamente, del imperativo ético kantiano, pero desde el punto de vista de la computabilidad y la inteligencia artificial. Es decir, trato de responder a la pregunta de si el imperativo categórico puede servir … Sigue leyendo
Hace un tiempo llegó a mi pantalla un artículo de Malle y Scheutz sobre el comportamiento ético de los robots [1] en el que se hace esta afirmación: La acción moral, como hemos apuntado antes, es la acción en conformidad … Sigue leyendo
Esta galería contiene 1 foto.
Desde hace aproximadamente un año estoy colaborando con Informatics Europe y en particular en el proyecto Ethics4EU: The Ethics4EU Project is an Erasmus+ international project that explores issues around teaching ethics in Computer Science. Ethics4EU has developed new curricula, best practices and learning … Sigue leyendo
Descripción física y descripción intencional La clave del juicio moral está en la intencionalidad: las acciones humanas deben ser juzgadas de acuerdo con la intención o propósito de la acción misma, que puede describirse como “lo que el agente se … Sigue leyendo
Esta galería contiene 2 fotos.
El curso 2022-2023 dará comienzo en la Universidad Carlos III de Madrid (Campus Puerta de Toledo) el Master in Computational Social Science (MUCSS), de un año de duración (60 ECTS), impartido íntegramente en inglés. Colaboran Carlos III-Juan March Institute y … Sigue leyendo
Esta galería contiene 1 foto.
Reglas y consecuencias: dos versiones rivales de la ética Las escuelas éticas contemporáneas pueden organizarse de muy diferentes maneras. Una distinción muy frecuente entre ellas es la de “ética basada en reglas” frente a “ética basada en consecuencias”. Los filósofos … Sigue leyendo
¿Está reñida la ética con el éxito profesional, o por el contrario lo favorece? Ante todo, quiero advertir que no es mi intención plantear esta cuestión como si fuera una disyuntiva exclusiva, como si hubiera que elegir entre el éxito … Sigue leyendo
De máquinas e intenciones 