Semana de la Ciencia 2022: ¿Sueñan los androides con ser buenas personas?

Jueves, 10 de noviembre de 2022 a las 15:00
Salón de Grados, edificio Menéndez Pidal (Biblioteca), campus Colmenarejo

En el marco de la Semana de la Ciencia 2022 en la UC3M
Entrada libre hasta completar aforo
Muy importante, reserva tu plaza aquí: enlace al formulario.


¿Pueden las máquinas aprender la ética como los humanos?
¿Se puede enseñar ética como mera imitación del comportamiento?
Ingeniería y humanidades se dan la mano para responder a estas preguntas.

La actividad está orientada a superar la brecha entre ingeniería y humanidades. Es sabido que la inteligencia artificial plantea cuestiones éticas que están siendo abordadas desde múltiples instancias públicas y privadas, académicas y legislativas, y de simple iniciativa social.

En esta charla queremos reflexionar sobre la racionalidad de la ética a partir de los desafíos planteados por la IA y las implicaciones que esto tiene para nuestro sistema legal y para la ética (que puede y debe implementarse en las máquinas).

Nuestra sociedad altamente tecnificada necesita urgentemente recuperar una renovada racionalidad ética, y la comprensión de las cuestiones que plantea la «Ética para Máquinas» nos puede enseñar algo valioso en este sentido.


Entrada estrechamente relacionada: Tres leyes para gobernarlos a todos.

Ver edición 2021.

Anuncio publicitario

5 comentarios en “Semana de la Ciencia 2022: ¿Sueñan los androides con ser buenas personas?

  1. Buenas

    Después de leer con atención tu artículo anterior (14/10/2022) me pregunto si la programación ética de las máquinas tendrá éxito. En el artículo citado trazas un cuadro pesimista de la ética kantiana y de la ética utilitarista. Por ejemplo:

    “Considero en cambio que la formulación kantiana del imperativo categórico es una reducción esterilizante de “lo bueno” a “lo universal” (que es una propiedad lógica, no ética). Si lo bueno no se reconoce por sí mismo, tampoco se puede reconocer porque sea lógico o universalizable, ni porque sea útil o conveniente, ni por ninguna otra razón […] En otras palabras, una máxima universal, por complicada que sea, no puede servir para evaluar la moralidad de todos los actos concretos. El imperativo categórico kantiano no es computable, como tampoco lo era el utilitarismo”.

    En la introducción a la charla que anuncias dices que “nuestra sociedad altamente tecnificada necesita urgentemente recuperar una renovada racionalidad ética”. Me pregunto cuál es el punto de partida de esta renovada racionalidad ética una vez que las éticas kantiana y utilitarista han perdido vigor en el contexto hiper tecnificado actual. Entiendo que la brecha que separa la ingeniería de las humanidades también se prolonga al mercado. Si lo bueno no se reconoce por sí mismo quiere decirse que el mercado actúa como elemento distorsionador y, por tanto, la ética kantiana es incapaz de ordenar el comportamiento moral de los agentes que se concitan en el mercado. ¿En qué consiste la renovada racionalidad ética a la que aludes?

    Le gusta a 1 persona

    • Hola Trenchtown,

      >> me pregunto si la programación ética de las máquinas tendrá éxito

      Como cualquier artefacto, las máquinas computacionales, y entre ellas las basadas en inteligencia artificial, deben ser construidas conforme a principios éticos. es lo que se conoce como Ethics by Design. Esto son principios que afectan a todo tipo de artefactos, programables o no. Cada disciplina tiene sus dificultades propias, y el hecho de que los sistemas de IA tengan la capacidad de tomar un gran número de decisiones por delegación convierte el análisis ético en particularmente difícil.

      Pero otra cosa muy diferente es que creamos que las máquinas puedan ser sujetos éticos en sí mismas, con libertad y responsabilidad en sentido propio. Esto no es ciencia ni ingeniería, es ficción. Y parte de un error conceptual grave que no me canso de denunciar, que es considerar que el comportamiento libre y responsable puede ser una función computable, es decir, que se puede programar en una máquina.

      >> Me pregunto cuál es el punto de partida de esta renovada racionalidad ética una vez que las éticas kantiana y utilitarista han perdido vigor en el contexto hiper tecnificado actual.

      Reconozco humildemente que es más fácil señalar los errores (decir «no es esto») que aportar soluciones («sí es esto»). Las éticas kantianas y utilitaristas han cedido a la tentación logicista y matematizante, y en ese sentido considero que son un punto de partida gravemente equivocado para la ética. Con eso no quiero decir que no hayan tenido aportaciones valiosas, pero sí que su orientación general es fallida.

      ¿Qué queda? Queda la ética de la virtud. Reconocer que el comportamiento virtuoso no es algo que se pueda escribir de una vez por todas en un manual. Y, por tanto, que la ética debe enseñarse de forma muy distinta a como estamos acostumbrados a enseñar las materias instrumentales en todos los niveles educativos, y particularmente en la universidad, que es donde me toca de cerca.

      Te recomiendo la lectura de El mayor recurso: la educación, de Ernst Firedrich Schumacher, especialmente el apartado «Problemas divergentes y convergentes».

      Y si tienes interés y más tiempo, este otro artículo: Teaching Ethics to Engineers: A Socratic Experience.

      Me gusta

  2. El texto de Schumacher nace en el seno del éxodo de un millón de estadounidenses, canadienses y europeos que decidieron alejarse de la tecnocracia capitalista para explorar formas vivenciales alternativas. El alegato moral de Schumacher se inscribe en la ética de los márgenes como la ética socrática o la ética cristiana original. Lo que me parece curioso es que la marginalidad por abajo es el reflejo de la marginalidad por arriba. La riqueza desmesurada produce un movimiento centrífugo que aleja a los magnates del tejido social, al punto que algunos de estos multimillonarios invierten sumas ingentes en la industria espacial, la metáfora que describe a un sistema que muta de planetario a galáctico. Además, el movimiento centrífugo característico de la riqueza obliga a los millonarios a donar grandes cantidades de dinero para obras de caridad y filantrópicas. Esto parece confirmar la tesis de Schumacher de la tensión de los contrarios, y también confirma que la moral utilitarista deviene la ética de la limosna, el sucedáneo que intenta remediar la tensión mal resuelta de los contrarios.

    Sin embargo, el relativismo que critica Schumacher tiene otro significado en la perspectiva de la llamada moral relativista, la sucesora de las éticas kantiana y utilitarista. Los teóricos de la moral relativista entienden que la economía y la ciencia son amorales porque obedecen a sus leyes internas, son esferas autónomas independientes de la esfera moral humana. Como la economía y la ciencia no son personas (no tienen conciencia, voluntad y sensibilidad) resulta incongruente atribuirles intencionalidad moral. De ahí que se considere que tanto la ciencia como la economía son amorales. Esto obliga a resituar el deber moral del individuo y el grupo en el respeto al prójimo, lema de resonancia cristiana. El respeto al prójimo es un deber moral similar al imperativo kantiano pero tamizado por la imposibilidad de atribuir moral a entes que por su naturaleza son amorales. El cuidado del otro brota del sentido de la responsabilidad, son los directivos y trabajadores de las empresas los que tienen que adoptar conductas virtuosas en un entorno que se guía por el interés y el beneficio monetario. Son los científicos los que deben estar atentos a que sus conductas sean virtuosas en un entorno, la ciencia y la tecnología, que por su naturaleza es amoral. Es decir, el cuidado del prójimo sí es un deber moral porque depende de hombres y mujeres que poseen conciencia, voluntad y sensibilidad.

    André Comte-Sponville, “El capitalismo ¿es moral?” (Paidós, 2004)

    Me gusta

    • >> Los teóricos de la moral relativista entienden que la economía y la ciencia son amorales porque obedecen a sus leyes internas, son esferas autónomas independientes de la esfera moral humana. Como la economía y la ciencia no son personas (no tienen conciencia, voluntad y sensibilidad) resulta incongruente atribuirles intencionalidad moral.

      Sobre esto justamente tratará el artículo que publicaré la semana que viene. La ciencia -en sentido estricto- se ocupa de lo que ocurre, mientras que la ética se ocupa de lo que debería ocurrir. En ese sentido es correcto decir que la ciencia es amoral.

      Si la economía se entiende como «ciencia económica», mera descripción de cómo funcionan los fenómenos sociales de la economía, entonces es amoral como cualquier otra ciencia descriptiva. Pero si se entiende como una forma no de describir sino de conducir la actividad humana, difícilmente puede ser amoral.

      En todo caso, una cosa es lo que está al alcance del método científico, y otra cosa es la actividad de los científicos, que sí es moral como cualquier otra actividad humana.

      Me gusta

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s