Seminario: Cómo enseñar a tu robot a que se porte bien

Ética para máquinas:
Cómo enseñar a tu robot a que se porte bien

Universidad de Navarra
Seminario CRYF
Martes 9 de abril de 2019
Presentación disponible en SlideShare
Video disponible en YouTube


Entrevista publicada en el Diario de Navarra, miércoles 10 de abril de 2019, pp. 68-69: ¿Tienen ética las máquinas?


Noticia publicada por el Servicio de Comunicación de la Universidad de Navarra. Un experto asegura que podemos enseñar a imitar comportamientos éticos humanos a un robot pero la ética no es sólo imitar lo que otros hacen.


Cuestionario realizado para el Servicio de Comunicación de la Universidad de Navarra

1 – ¿Es posible enseñar ética a las máquinas o robots?

Podemos enseñar a las máquinas a imitar comportamientos éticos humanos. Pero no olvidemos que enseñar ética no es solo enseñar a imitar lo que hacen otros.

2 – ¿Qué podemos aprender nosotros de la ética que somos capaces de hacer que aprenda un robot?

Es como mirarte en un espejo. Una vez que hemos “sacado” nuestro conocimiento ético para plasmarlo en un robot, podemos reflexionar sobre lo que vemos en el espejo (reflexionar y reflejar tienen la misma raíz). Podemos ver incoherencias. Podemos ver hasta dónde llega la aplicación de los principios que hemos sido capaces de formular. Podemos ver si se producen efectos no deseados.

Pero lo más importante que deberíamos aprender es que nosotros no somos la imagen del espejo, por mucho que se nos parezca. Deberíamos aprender que lo más importante no es la imitación (eso lo hace muy bien un espejo), sino la toma de contacto con la realidad presente, re-conocer la dignidad del que tenemos delante, descubrir uno mismo lo que está bien y lo que está mal. No me preocupa tanto la humanización del robot, como la robotización del humano. Mirando al robot deberíamos aprender que nosotros no somos eso, una máquina programada para comportarse de determinada manera.

3 – ¿Qué principios éticos deberían regir a las máquinas? ¿Hay algo establecido actualmente?

Las Tres Leyes de la Robótica que enunció Isaac Asimov son muy famosas. Resultan atractivas porque nosotros, como humanos, encontramos en ellas una especie de código muy sencillo y con cierto sentido. Pero es completamente imposible introducir estas leyes en un programa de ordenador, porque incluyen conceptos que no son computables (es decir, no se pueden reducir a términos que pueda procesar una máquina), tales como “ser humano”, “responsabilidad”, “daño”, etc.

Establecer principios éticos universales para las máquinas es tan difícil como establecerlos para los humanos. Y ya sabemos que llevamos miles de años y aún no nos hemos puesto de acuerdo…

No obstante, si descendemos de los principios a las regulaciones concretas, ya se están produciendo avances, tanto a nivel de grandes corporaciones privadas como de instituciones públicas. Hay mucho interés y mucha gente trabajando en este campo.

Los principios éticos deben inspirar el desarrollo de estas leyes. No obstante, pienso que la ética no puede quedar perfectamente definida por ninguna ley o código, siempre estará “por encima” de todas ellas.

4 – ¿Cómo de cerca está la necesidad de que las máquinas estén regidas por valores éticos?

Es una realidad presente. No pertenece al futuro inmediato, sino al pasado, ya no tan reciente. Llevamos ya muchos años en los que las máquinas toman decisiones con fuerte carga ética, o al menos asesoran a quienes toman esas decisiones (sea para conceder un préstamo bancario, para decidir quién recibe un órgano trasplantado, o simplemente para decidir si un estudiante aprueba o suspende una asignatura). Lo que quizás es más novedoso es que las máquinas puedan calcular decisiones y llevarlas a cabo sin supervisión humana directa, y de ahí nace la preocupación de que esas decisiones sean calculadas de forma ética, a partir de principios éticos establecidos previamente. Pero insisto en que esto no es el futuro, sino el presente.

5 – ¿Cuáles serían los campos o sectores en los que sería más importante aplicar la ética en las máquinas? Entiendo que no es lo mismo un robot para labores de cocina que una máquina para pruebas médicas o aplicar la tecnología en un banco.

Pues en realidad, la ética es importante en cualquier campo de actividad humana. Un cocinero sin ética puede hacer grandes barbaridades…

6 – ¿Es tecno-optimista o tecno-pesimista?

Los problemas que más nos importan no se pueden resolver con tecnología. Si la persona que quiero está lejos, puedo comunicarme a distancia. Pero si está enfadada conmigo, no hay artilugio que pueda resolverlo. Es un problema de relaciones humanas.

En ese sentido, no soy tecno-optimista (lo más importante no se puede resolver solo con tecnología). Pero sí soy optimista, en el sentido de que podemos utilizar la tecnología para mejorar nuestra vida, para inventar nuevas formas de hacer el bien a la humanidad y a toda la naturaleza, de la que somos responsables. A eso estamos llamados.

2 pensamientos en “Seminario: Cómo enseñar a tu robot a que se porte bien

    • Manuel, leí vuestro artículo hace poco más de un año, y me gustó mucho.

      Si no lo entendí mal, vuestro punto de partida es el problema del daño (harming problem): ¿es dañino este programa para los humanos? Demostráis, por reducción al problema de la parada de Turing, que el problema del daño es indecidible, y por tanto no es posible fabricar una superinteligencia con una estrategia de control que garantice que ella misma no será dañina. Me pareció una demostración brillante.

      Mi enfoque es menos formal, diferente y complementario al vuestro. Cuando digo que las leyes de la robótica incluyen conceptos no computables, me refiero más bien a que son conceptos éticos que no se pueden reducir a magnitudes físicas medibles, y por tanto no se pueden utilizar como base para realizar una computación. Dicho de modo muy simple, la dignidad no se puede medir con electrodos.

      Me gusta

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s