¿Puede ser libre una máquina computacional? (3): La razón esclava de las pasiones

Esta es la tercera de una serie de tres entradas publicadas originalmente en Naukas como una unidad.

En las dos primeras entradas de esta serie he tratado de clarificar qué es una máquina computacional y qué es ser libre. Trato ahora de extraer alguna conclusión válida sobre lo dicho.

—oOo—

Entonces, ¿puede ser libre una máquina computacional?

Con lo que llevamos dicho la respuesta es inmediata. Ser libre es, de modo radical, tener la facultad de autodeterminación, es decir, la capacidad de proponerse uno mismo sus propios planes, objetivos y metas. Puesto que una máquina computacional tiene un objetivo que no se ha dado a sí misma y que no puede cuestionar… no hace falta decir más: una máquina computacional no puede ser libre, porque el concepto de libertad es contradictorio con el concepto de máquina computacional o algorítmica, y con el concepto más general de máquina. Para ser libre tendría que dejar de ser una máquina y adquirir autoconciencia, algo a lo que la ciencia ficción nos tiene muy acostumbrados, pero no por eso es necesariamente factible. Obviamente, esos robots que desobedecen las órdenes de sus dueños no hacen más que obedecer, en un nivel más profundo, a sus programadores. La autodeterminación, por su misma definición, queda fuera del paradigma computacional clásico, es decir, de la concepción clásica de máquina algorítmica: la libertad no es una función computable.

Esto no es una dificultad tecnológica de hoy día que será superada con el tiempo, es una dificultad conceptual para cualquier máquina de cualquier tiempo, porque lo esencial de una máquina no es estar hecha de engranajes y circuitos eléctricos, sino haber sido diseñada con una determinada finalidad, a la que tiene que obedecer forzosamente. Una máquina no puede decidir qué objetivos quiere perseguir, porque dejaría de ser una máquina. Que es precisamente lo que les pasa a los robots que se hacen humanos en la ciencia ficción: los replicantes de Blade Runner ya no son robots, son humanos, aunque sea en una forma de humanidad que nos desconcierta y no sabemos precisar bien.

El replicante Roy Batty en Blade Runner

Atención, no estoy diciendo que sea imposible fabricar seres inteligentes y libres, tan solo que, si algún día lo logramos, no serán propiamente “máquinas computacionales”. Quizás en un futuro indeterminado seamos capaces de producir en el laboratorio un tipo de robots no algorítmicos (no dirigidos hacia un fin dado) que propiamente puedan ser calificados como autoconscientes, capaces de hacer “lo que les dé la gana”, de proponerse sus propios objetivos; pero seguramente no sería adecuado seguir llamándolos robots. Serían “humanos” en el sentido de autodeterminados, verdaderamente libres, aunque quizás su estructura física (¿biológica?) fuera muy diferente a la nuestra. Pero, ¿de qué serviría esto? ¿Para qué fabricar máquinas que no harán lo que queremos, sino lo que les dé la gana? ¿En qué sentido puede decirse que siguen siendo máquinas?

En cierto sentido, la reproducción humana ya trae al mundo seres libres y autodeterminados, sin objetivos predefinidos. Una autodeterminación que a veces resulta incordiante (que se lo pregunten a todos los padres y madres con hijos adolescentes), y que demasiado a menudo tratamos de sustituir por un comportamiento “programado”. Y esto puede ocurrir en todos los niveles educativos, desde los niños pequeños hasta los estudiantes universitarios [1]. Lamentablemente, la tentación de sustituir el proceso educativo por un proceso de robotización es grande, especialmente en el caso de los gobernantes totalitarios, para quienes la autodeterminación ya no es solo molesta, sino simplemente inaceptable.

Autodeterminación, un poco incordiante

¿La razón es la esclava de las pasiones?

Soy consciente de que no he demostrado que los seres humanos son verdaderamente libres, en el sentido de autodeterminados. Tan solo he demostrado que una máquina computacional o algorítmica no puede ser libre; por tanto, si los humanos son libres, entonces no pueden ser robots, máquinas algorítmicas. Es decir, la inteligencia libre (que no se ocupa sólo de resolver problemas, sino también de elegir los problemas que quiere resolver) no puede ser definida como un proceso algorítmico, y el comportamiento genuinamente libre no puede ser completamente emulado por robots (otra cosa es el comportamiento típico de una gran masa de gente, que sí es susceptible de análisis estadístico, precisamente porque deja de considerarse la individualidad).

El filósofo escocés David Hume (1711-1776) escribió que “la razón es la esclava de las pasiones”, es decir, está al servicio de unos objetivos predeterminados que no puede cuestionar (entiéndase “pasión” en un sentido general, no solo relativo a lo placentero: pasión por la música, por las matemáticas, por la justicia…). Una concepción que, curisosamente, anticipa el concepto moderno de robot [2]. Si resulta difícil aceptar que un robot no puede ser libre –como imagino que les ocurrirá a algunos, o quizá muchos, lectores– quizás sea porque la concepción humeana de la naturaleza humana ha calado profundamente en nuestra mentalidad occidental. Si para nosotros, en el siglo XXI, es tentador considerarnos complicados robots biológicos, es solo porque previamente hemos aceptado el paradigma de la razón como esclava de las pasiones, una razón que no goza de la auténtica libertad que he expuesto aquí. Estamos tentados de creer que somos robots, porque primero hemos aceptado que la razón no escoge ni prioriza sus objetivos, sino que está al servicio de un objetivo último no racional, que en definitiva no es otro que la supervivencia de la especie.

El antiguo fatalismo griego pretendía que el destino humano estaba controlado por los dioses del Olimpo. Esta tendencia resurge hoy día, atribuyendo el control a los genes: somos, en el fondo, esclavos de nuestra programación biológica. Contra esta tendencia fatalista se rebela la afirmación radical (y quijotesca) de la libertad humana, la afirmación de que lo característico de los seres humanos es que nos proponemos nuestros propios fines, decidimos lo que queremos ser. Considero que esta capacidad de autoproponerse los fines es lo más característico de la diferencia entre humanos y máquinas. Son precisamente los que no se atreven a afirmar radicalmente la libertad los que más fácilmente caerán en la tentación de considerar que los humanos no son en último término otra cosa que complicados robots biológicos.

NOTAS

[1] Gonzalo Génova, M. Rosario González. Educational Encounters of the Third Kind. Science and Engineering Ethics 23(6):1791-1800, December 2017.

[2] Gonzalo Génova, Ignacio Quintanilla Navarro. Are Human Beings Humean Robots? Journal of Experimental & Theoretical Artificial Intelligence 30(1):177–186, January 2018.

Créditos de las imágenes

http://www.imdb.com/title/tt0083658/

http://wallpaperswide.com/robots_of_the_future-wallpapers.html

7 pensamientos en “¿Puede ser libre una máquina computacional? (3): La razón esclava de las pasiones

  1. Gonzalo,

    Aunque soy lego en esta materia me parece interesante el tema que tratas…

    Aunque supongo lo sabes, es interesante saber que la palabra robot viene del eslavo y significa “trabajo forzado” y se contrapone a lo que coloquialmente llamamos libertad, por tener que seguir esa programación a la que aludes…

    Igualmente me parece interesante (quizás por la cantidad de películas vistas y libros leídos) lo que vendría a denominarse el “complejo de Frankenstein” al que aludes de soslayo, en el que Asimov llegó incluso a postular 3 leyes para todo robot.

    Por último, y como visón personal de la libertad, me parece acertado el definir a un ser libre, como aquel que sigue para lo que ha sido creado ó programado, si bien esta visión simplista sirve para la naturaleza en general, el ser humano está llamado a un perfeccionamiento que la maquina (robot), de tomar conciencia de su existencia, seguramente empezaría a percibir y que al igual que nosotros no conseguiría nunca…en esta vida

    Enhorabuena por el blog, muy interesante.

    Un abrazo

    Me gusta

    • Hola Juan,

      Lo que escribes en el último párrafo conecta con uno de los puntos clave que expuse en la segunda parte de esta serie:

      Ser libre es, inicialmente, ser capaz de elegir entre diferentes comportamientos para lograr un objetivo dado, o incluso ser capaz de aceptar o rechazar ese objetivo.

      Pero no basta con eso. Ser libre es, de modo radical, ser capaz de autoproponerse objetivos, forjarse un destino o ideal que no le viene a uno simplemente dado. Un perfeccionamiento o plenitud personal que, como bien dices, es inalcanzable en esta vida.

      ¡Muchas gracias!

      Me gusta

      • Estoy de acuerdo, de hecho no veo posible que pudiésemos mejorar como individuos o como sociedadades si no fuésemos libres. Determinismo e inteligencia no casan bien. Esto enlaza con lo que decía Dewey sobre la posibilidad de elegir a que reacción damos respuesta, o a la objeción de Brentano al determinismo al poner de relieve en la psicología humana las intenciones. El asunto es que creo que nos hemos estancado demasiado en Descartes y su dualismo hoy por hoy, desde mi punto de vista, con una metafísica indefendible.

        Me gusta

      • >> El asunto es que creo que nos hemos estancado demasiado en Descartes y su dualismo hoy por hoy, desde mi punto de vista, con una metafísica indefendible.

        Completamente de acuerdo, el dualismo cartesiano nos ha metido en un callejón sin salida. No somos la unión de dos “cosas” (la res extensa material y la res cogitans inmaterial), que nadie sabe explicar cómo interaccionan.

        Nada de eso. Somos una sola cosa en la que, eso sí, podemos considerar distintos aspectos. Lo material y lo inmaterial son aspectos, no cosas.

        Lo peor, desde mi punto de vista, es que incluso los que rechazan el dualismo lo hacen muy frecuentemente desde la aceptación de sus nociones de cuerpo y alma, materia y espíritu. Y, así, siguen buscando esa hipotética interacción, y como no la encuentran, concluyen que solo es real lo material (la mayoría) o que solo es real lo inmaterial (son poquísimos, pero los hay que también defienden esto).

        Descartes las define como dos “sustancias” independientes. Es justo este postulado el que es necesario rechazar para salir del atolladero, y empezar a entendernos mejor a nosotros mismos y al resto de seres naturales que nos rodean.

        Me gusta

Responder a Gonzalo Génova Cancelar respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s