Un instrumento universal para resolver problemas

Es indudable que los sistemas informáticos (que son máquinas programables procesadoras de información) constituyen ya un elemento tecnológico completamente integrado en nuestra sociedad. Una parte de estos sistemas informáticos se caracteriza por lo que se conoce como Inteligencia Artificial (IA), una denominación que sin duda ha tenido un inmenso éxito popular, más por lo que sugiere que por lo que realmente es.

Definir la inteligencia artificial

No es fácil definir con total claridad lo que caracteriza a la IA, y por ello los límites entre sistemas informáticos “ordinarios” y aquellos que incluyen un componente importante de IA son bastante borrosos. Si tratamos de definir la inteligencia artificial como aquella que realiza capacidades que tradicionalmente se consideraban exclusivas de la inteligencia humana, resulta que esta definición es aplicable prácticamente a cualquier sistema informático, incluso una simple calculadora.

En la jerga informática se define un ordenador o computadora como una máquina de propósito general, para diferenciarla de las máquinas de propósito específico, tales como una máquina registradora en un supermercado. Esta generalidad se alcanza precisamente gracias a que un ordenador es una máquina programable: los distintos programas que puede ejecutar un ordenador lo hacen, en principio, capaz de resolver cualquier problema (que sea computable). Así pues, la dificultad se traslada del ordenador como máquina física (el hardware) al programa que se ejecuta en él (el software).

Un programa clásico es una descripción paso a paso de las instrucciones que tiene que seguir una máquina computacional (un ordenador) para llevar a cabo una tarea. Esta tarea puede ser sumar dos números, llevar un paquete de un lugar a otro, realizar un trasplante de córnea… Este tipo de programación trata de descomponer el problema en instrucciones secuenciales, repeticiones y caminos alternativos (estos últimos en función de que se cumplan o no determinadas condiciones). Es una programación explícita, fija, y definida ya completamente antes de comenzar la ejecución del programa.

Por el contrario, un sistema basado en IA no tiene una programación completamente fija ni explícita. Una caracterización más precisa de la IA apunta a la capacidad de aprendizaje a partir de los datos obtenidos de su entorno con el fin de modificar el propio modo de funcionamiento. Por ejemplo, podría ser un sistema que “aprende” a jugar al tres en raya o al ajedrez analizando los movimientos en las partidas que va jugando, con sus victorias y derrotas. Así pues, una IA es una máquina que puede modificar su propia programación: es una máquina autoprogramable.

Si a esto añadimos la noción de inteligencia como capacidad de resolver problemas, resulta que…

una IA es un sistema basado en ordenador que es capaz de recibir y evaluar información de su entorno, y aprender a encontrar soluciones no explícitamente programadas a determinados problemas.


Aprender a resolver problemas

Esto sería la definición de IA específica o IA débil. Otras capacidades más “atrevidas” de lo que se conoce como IA general o IA fuerte serían abstracción, introspección, autoconciencia y libre albedrío; capacidades que ya son difíciles de definir en sí mismas, cuando las reconocemos en nosotros mismo o en otros seres humanos.

Inteligencia y autoprogramación

La idea de la autoprogramación es inherente al concepto de la Máquina Universal de Turing [1][2]. La computadora autoprogramable depende también de un logro tecnológico alcanzado al final de la Segunda Guerra Mundial: la máquina de programa almacenado. El propio Alan Turing desarrolla la idea en una conferencia ante la Sociedad Matemática de Londres, en 1947. Así describe Turing el “programa” en términos de tablas de instrucciones que se modifican a sí mismas [3]:

Supongamos que hemos diseñado una máquina con ciertas tablas de instrucciones iniciales, construidas de tal manera que estas tablas podrían en ocasiones, si surgiera una buena razón, modificarse a sí mismas. Podemos imaginar que, después de que la máquina haya estado funcionando durante algún tiempo, las instrucciones se habrán alterado de forma irreconocible, pero seguirán siendo tales que habrá que admitir que la máquina sigue haciendo cálculos muy valiosos. Posiblemente se sigan obteniendo resultados del tipo deseado cuando la máquina se puso en marcha por primera vez, pero de una manera mucho más eficiente. En tal caso, habría que admitir que el progreso de la máquina no se había previsto cuando se pusieron sus instrucciones originales. Sería como un alumno que hubiera aprendido mucho de su maestro, pero que hubiera añadido mucho más con su propio trabajo. Cuando esto ocurre, creo que uno está obligado a considerar que la máquina muestra inteligencia.

Quiero hacer notar que en estas palabras, donde Turing ni siquiera usa el término ‘programa’, hay una altísima dosis de especulación (¡estamos en 1947!), pero que fue indudablemente muy inspiradora. Se suele considerar que el primer ordenador de propósito general fue el ENIAC, construido en la Universidad de Pensilvania en 1946 para resolver problemas de cálculo numérico; y el primer ordenador de programa almacenado fue el EDSAC, construido a su vez en Cambridge en 1949 con la misma finalidad. 

Por otra parte, Turing señala que los resultados serán del tipo deseado (una referencia clara a la intencionalidad o propósito de la máquina), lo cual puede ser muy difícil de verificar cuando el programa automodificante ha escapado a nuestro control. Es decir, para garantizar que la máquina sigue haciendo algo útil (el resultado deseado), la evolución del programa tendrá que ser estrechamente controlada, supervisada y mantenida dentro de ciertos límites (que es justamente lo que hacen las modernas técnicas de IA). Por el contrario, si dejamos que haga cualquier cosa, tal vez eso sea signo de inteligencia, pero ya no podremos decir que es una máquina (aunque sí sea un sistema mecánico).

El Test de Turing, prefigurado por Descartes

Algunos estudiosos han sugerido que el famoso Test de Turing [4] está prefigurado en René Descartes y en los escritos de otros filósofos cartesianos [5][6][7]; también hay pruebas [8] de que Turing conocía las ideas de Descartes en el momento en que escribió su artículo de 1950.


El test de Turing

En efecto, es notable la caracterización de la razón humana que realiza Descartes en su Discurso del Método, para distinguirla de la inteligencia que puede exhibir una máquina. Según Descartes, lo propio de una máquina es tener un propósito particular, mientras que la razón humana se caracteriza por su propósito general –o universal–, de modo que esta diferencia nos ofrecería “un método seguro para distinguir seres humanos verdaderos de máquinas que se les parecen y que pretenden pasar por humanos” [9]. Recordemos que el Test de Turing pretende igualmente ofrecer un “método seguro” para distinguir humanos de máquinas. He aquí las palabras de Descartes en la Quinta Parte del Discurso [10]:

Aun cuando [las máquinas] hicieran varias cosas tan bien y acaso mejor que ninguno de nosotros, no dejarían de fallar en otras, por donde se descubriría que no obran por conocimiento, sino sólo por la disposición de sus órganos, pues mientras que la razón es un instrumento universal, que puede servir en todas las coyunturas, esos órganos, en cambio, necesitan una particular disposición para cada acción particular.

En el momento en que las máquinas programables de propósito general empiezan a ser una realidad, es lógico preguntarse si la distinción cartesiana no habrá sido superada. En todo caso, no quiero ahora discutir en profundidad si esta diferencia entre tener un propósito particular o universal se podría verdaderamente usar de forma metódica para construir un “test de humanidad” (tan solo apunto la dificultad de comprobar fehacientemente que una inteligencia es “universal”).

Me interesa más resaltar en este momento que Descartes define la razón humana como “instrumento universal”. Es decir, muy en la línea de considerar, como es típico hoy día, que la inteligencia es la “capacidad de resolver problemas”, preferentemente problemas cerrados, computables, maquinizables. Pero problemas, y esto es importante, que la razón no se ha propuesto ella misma, sino que le vienen dados. La inteligencia está “al servicio de”, es un instrumento, una herramienta.

Instrumento, solo instrumento

Como dirá otro importante filósofo, David Hume, de una forma u otra deudor de esta concepción cartesiana de la inteligencia, “la razón es y sólo puede ser la esclava de las pasiones y no puede pretender otro oficio más que servirlas y obedecerlas” [11, II-iii-3]. Es decir, según Hume la inteligencia está para resolver los problemas que plantean las pasiones; ella misma, en última instancia, no propone problemas, ni jerarquiza su importancia [12]. Es solo un instrumento, por muy universal que sea. No es misión de la inteligencia elegir los problemas que vale la pena resolver.


Mi único oficio es serviros y obedeceros

Entiéndase “pasión” en este contexto en un sentido general, no solo relativo a lo placentero (incluyendo por tanto lo que llamamos deseos, sueños, ilusiones y esperanzas): pasión por la música, por las matemáticas, por la justicia… Los seres humanos se sienten atraídos por estímulos u objetivos diversos, y las pasiones deben entenderse como pulsiones o impulsos hacia esos objetivos exteriores.

En esta concepción de la naturaleza humana, el papel de la razón es resolver un problema, elaborar una estrategia para satisfacer lo mejor posible el conjunto de pasiones; pero la razón no cuestiona ni elige las pasiones a las que debe servir. Su única misión es esforzarse por optimizar los recursos para satisfacerlas al máximo, como un camarero que anda alocado tratando de servir a tiempo a todas las mesas. Hume propone un sugestivo cuadro de la razón instrumental que anticipa y prepara un moderno modelo algorítmico de la inteligencia, orientado a resolver problemas, no a seleccionarlos.


Servir a tiempo a todas las mesas

En el enfoque sentimentalista humeano de la ética, la felicidad se alcanza cuando se satisfacen las pasiones. Las pasiones son fuerzas de atracción que, por analogía con las fuerzas newtonianas, sólo pueden ser resistidas si hay otra pasión que atraiga en sentido contrario. Como las pasiones son múltiples (el orgullo y la humildad, el amor y el odio, etc.) y apuntan en direcciones diferentes, el comportamiento resultante es un equilibrio de fuerzas que tiende a preservar la paz y la tranquilidad interiores (homeostasis).

En este modelo, la razón se entiende principalmente como una herramienta de optimización (razón técnica o instrumental, por tanto), utilizada para calcular el comportamiento que mejor satisface las pasiones implicadas y exige menos esfuerzo al sujeto. La razón es esclava de las pasiones: no cuestiona las pasiones que se le imponen de modo irresistible, ni sus objetivos, ni su fuerza de atracción; las pasiones, los objetivos vitales, son pre-racionales.

La ética como técnica de resolución de problemas

La consecuencia lógica de aceptar el carácter instrumental de la razón es desembocar en la negación de la libertad y en la teoría computacional de la mente, según la cual los humanos somos complicados robots biológicos, máquinas resolvedoras de problemas, esclavos de nuestros objetivos. Con un objetivo último que, en definitiva, no es otro que la supervivencia de la especie.

No es extraño que los que conciben, al modo cartesiano, que la razón humana es un instrumento universal para resolver problemas, tengan dificultad para admitir que pueda haber una diferencia insalvable entre máquinas y humanos (o, al menos, entre la inteligencia artificial y la inteligencia natural). Y pienso que la dificultad es real: si la razón es un instrumento, y nada más que un instrumento, al servicio de pulsiones pre-racionales, entonces bastará con saber “cómo funciona” para poder construir otro instrumento que sea capaz de realizar la misma tarea. El obstáculo que hay que salvar es solo tecnológico, no de principio, así que paciencia, todo llegará.

Y, de esta manera, si la ética se entiende también como una técnica para resolver problemas, entonces no hay razón para pensar que no pueda ser aprendida por una máquina. Entonces, ¿es la ética un juego de imitación?

Referencias

[1] Turing, A.M. (1936). On computable numbers, with an application to the Entscheidungsproblem. Proceedings of the London Mathematical Society 2(42): 230–265.

[2] Mahoney, M.S. (2002). Software: The Self-Programming Machine, in Atsushi Akera and Frederik Nebeker (eds.), From 0 to 1:  An Authoritative History of Modern Computing. New York: Oxford U.P., 2002.

[3] Turing, A.M. (1947). Lecture to the London Mathematical Society, 20 February 1947. In Carpenter, B.E., Doran, R.W. (eds), A.M. Turing’s ACE Report of 1946 and Other Papers, Cambridge, Mass.: MIT Press (1986).

[4] Turing, A.M. (1950). Computing Machinery and Intelligence. Mind 59: 433-460, 1950.

[5] Oppy, G., Dowe, D. (2020). The Turing Test, The Stanford Encyclopedia of Philosophy (Winter 2020 Edition), Edward N. Zalta (ed.).

[6] Copeland, J. (2000). “The Turing Test,” Minds and Machines, 10: 519–39.

[7] Gunderson, K. (1964). “Descartes, La Mettrie, Language and Machines,” Philosophy, 39: 193–222.

[8] Abramson, D. (2011). “Descartes’ Influence on Turing,” Studies in History and Philosophy of Science, 42: 544–551.

[9] D’Andrea, A. (2019). “Nuevas tecnologías: humanxs, algoritmos y programación”. En Osella, M., Moretti, J.M., Lorio N. (eds.), Actas de Filosofía y prácticas de sí. II Encuentro sobre técnicas del yo. Río Cuarto, 29 de noviembre de 2019. Río Cuarto, Córdoba, República Argentina: UniRío Editora.

[10] Descartes, R. (1637). El discurso del método. Madrid: Gredos, 2011. Original: Bien qu’elles fissent plusieurs choses aussi bien ou peut-être mieux qu’aucun de nous, elles manqueroient infailliblement en quelques autres, par lesquelles on découvriroit qu’elles n’agiroient pas par connoissance, mais seulement par la disposition de leurs organes: car, au lieu que la raison est un instrument universel qui peut servir en toutes sortes de rencontres, ces organes ont besoin de quelque particulière disposition pour chaque action particulière.

[11] Hume, D. (1739). A Treatise of Human Nature: Being an Attempt to introduce the experimental Method of Reasoning into Moral Subjects. London: John Noon, 1739. Original: Reason is, and ought only to be the slave of the passions, and can never pretend to any other office than to serve and obey them.

[12] Génova, G., Quintanilla Navarro, I. (2018). “Are Human Beings Humean Robots?” Journal of Experimental & Theoretical Artificial Intelligence 30(1):177–186.

Créditos de las imágenes

http://www.linkmesh.com/imagenes/temas/robots/jugando_ajedrez.jpg
http://en.wikipedia.org/wiki/Turing_test
https://pixabay.com/es/illustrations/muñeca-pintores-muñeca-928841/
https://pixabay.com/es/vectors/personas-pareja-camarero-mesa-146963/

Escrito en colaboración con mis colegas Valentín Moreno y Charo González.

6 pensamientos en “Un instrumento universal para resolver problemas

  1. Muchas gracias por la claridad de ideas, por la precisión conceptual, por saber plantear los problemas. Siempre es ameno leer tu blog y muy instructivo. Gracias!

    Me gusta

    • Gracias a ti, Juan Carlos.

      Por cierto, esta entrada es parte de un trabajo más amplio que estoy ultimando, de modo que cualquier sugerencia será bienvenida.

      Me gusta

    • Juan Carlos, he tardado un poco, pero ya he leído a fondo el escrito de Caffarra que sugerías. Creo que es un acierto mostrar la diferencia entre razón especulativa y razón práctica desde el contraste entre ciencia y técnica. La técnica no se conforma con conocer, quiere transformar el mundo, y en ese sentido abre una puerta a la ética que no es tan obvia en la ciencia pura. Así lo he argumentado en mi crítica al positivismo.

      También es un acierto mostrar que la revolución galileana consiste en delimitar el campo del método científico a las magnitudes medibles, con el consiguiente riesgo reduccionista de ignorar lo no medible.

      No estoy de acuerdo en cambio cuando dice que “La única preocupación de la ética es no hacer ninguna acción que no deba hacerse” (L’unica preoccupazione dell’etica è di non compiere nessuna azione che non deve essere compiuta). La preocupación ética fundamental no es evitar el mal, la prohibición, sino procurar el bien. Considero que la ética, antes que freno de los excesos, es sobre todo motor del progreso tecnológico: ¿qué bien puedo aportar, qué bien es deseable?

      En la tercera parte aborda el quid de la cuestión: la idoneidad de un acto libre para realizar a la persona humana del modo debido. ¿Pero cuál es el modo debido? ¿Qué es lo propio de la plenitud humana, cuánto hay de destino recibido y cuánto de destino que nos forjamos nosotros mismos? Caracterizarlo como “exigencia absoluta e incondicionada” no me parece correcto, ya que puede ciertamente haber prohibiciones absolutas de determinadas acciones concretas, pero no puede haber exigencias positivas absolutas hacia ninguna acción buena en concreto. No ser vago no implica hacer nada en concreto. No decir mentiras no exige -por sí mismo- decir ninguna verdad en concreto. La amistad perfecciona las relaciones humanas, pero no me pueden pedir en concreto que sea amigo de una determinada persona.

      Lo único incondicionado es “hacer el bien”, pero eso requiere de cada uno de nosotros una determinación que lo concrete.

      Me gusta

  2. Buenas

    Coincido con el profesor Génova en que definir el concepto de razón universal o general al modo cartesiano presenta dificultades. Yo distinguiría la razón universal de la general, entiendo que anteponer los principios racionales universales a los generales impide el desarrollo normal del método científico. Hoy en día, y en lo que se refiere a la revolución digital y el advenimiento de la inteligencia artificial, predomina la razón instrumental. El descubrimiento del microscopio, el telescopio, la brújula, la imprenta, etc, se debió a la acción de la razón instrumental. Ya no cabía hablar de principios racionales universales difíciles de aprehender por evanescentes sino de principios racionales generales obtenidos mediante el estudio particular de las leyes de la naturaleza verificadas en los laboratorios con los instrumentos correspondientes.

    Pareciera que la pasión ha mutado o se ha encapsulado en la razón instrumental. La ingente cantidad de recursos financieros que se invierten en el diseño de nuevos dispositivos, la competencia feroz que se libra entre diferentes compañías para conseguir éxitos y dinero, la hibridación con frecuencia indeseable que se establece entre la tecnología y los poderes políticos y militares muestran un panorama pasional que se adorna con vocablos racionales como progreso, eficacia, seguridad y bienestar social.

    Descartes y Hume fueron conscientes de que la razón instrumental posee un movimiento autónomo que resulta difícil de explicar con la filosofía sistemática. La correspondencia que el filósofo francés mantuvo con Isabel de Bohemia nos permite observar que Descartes se acoge a los preceptos de la filosofía escéptica considerando que tenían la misma o más sabiduría que las tesis de la filosofía sistemática. Así, le dice a su corresponsal lo siguiente:

    “La regla principal que he observado siempre en mis estudios […] ha sido que no he empleado nunca más que muy pocas horas al día a los pensamientos que ocupan la imaginación y muy pocas horas al año a los que ocupan el entendimiento solo, y haber dedicado todo el resto de mi tiempo al descanso de los sentidos y al reposo del espíritu”.

    Esta es una declaración de escepticismo que conduce a la beatitud y la ataraxia y entronca el pensamiento cartesiano con la investigación de Pirrón, Epicuro, Séneca y Sexto Empírico. Si la teoría escéptica, que nos invita a desconfiar de las pasiones, resulta útil para el estudio de la razón instrumental es algo que está por ver. En este sentido comparto el pesimismo del profesor Génova cuando escribe que “En el momento en que las máquinas programables de propósito general empiezan a ser una realidad, es lógico preguntarse si la distinción cartesiana no habrá sido superada”. Si ha sido superada corresponde a los amantes del conocimiento y la felicidad humanas alumbrar propuestas que aclaren esta cuestión.

    Me gusta

    • Interesante comentario, Trenchtown.

      En todo caso, no creo ser pesimista al escribir que la distinción cartesiana entre la razón mecánica como instrumento particular y la razón humana como instrumento general ha sido superada.

      Más bien he querido resaltar que lo característico de la razón humana no es ser instrumento (ni particular ni general), sino que es necesario superar esta concepción, y abrazar una noción de razón como capacidad de “conocer” en sentido más amplio, incluyendo la capacidad de conocer y re-conocer los valores (de las cosas, de las situaciones, de las personas).

      Joanna Bryson, que escribe con mucha sensatez sobre ética e inteligencia artificial, repite a menudo que la inteligencia es la capacidad de hacer lo correcto en el momento correcto (“Intelligence is the capacity to do the right thing at the right time”). No estoy seguro todavía si en ella eso implica la capacidad de reconocer lo correcto en sí mismo, o solo como medio para lograr otro fin.

      Me gusta

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s