Un instrumento universal para resolver problemas

Es indudable que los sistemas informáticos (que son máquinas programables procesadoras de información) constituyen ya un elemento tecnológico completamente integrado en nuestra sociedad. Una parte de estos sistemas informáticos se caracteriza por lo que se conoce como Inteligencia Artificial (IA), una denominación que sin duda ha tenido un inmenso éxito popular, más por lo que sugiere que por lo que realmente es.

Definir la inteligencia artificial

No es fácil definir con total claridad lo que caracteriza a la IA, y por ello los límites entre sistemas informáticos “ordinarios” y aquellos que incluyen un componente importante de IA son bastante borrosos. Si tratamos de definir la inteligencia artificial como aquella que realiza capacidades que tradicionalmente se consideraban exclusivas de la inteligencia humana, resulta que esta definición es aplicable prácticamente a cualquier sistema informático, incluso una simple calculadora.

En la jerga informática se define un ordenador o computadora como una máquina de propósito general, para diferenciarla de las máquinas de propósito específico, tales como una máquina registradora en un supermercado. Esta generalidad se alcanza precisamente gracias a que un ordenador es una máquina programable: los distintos programas que puede ejecutar un ordenador lo hacen, en principio, capaz de resolver cualquier problema (que sea computable). Así pues, la dificultad se traslada del ordenador como máquina física (el hardware) al programa que se ejecuta en él (el software).

Un programa clásico es una descripción paso a paso de las instrucciones que tiene que seguir una máquina computacional (un ordenador) para llevar a cabo una tarea. Esta tarea puede ser sumar dos números, llevar un paquete de un lugar a otro, realizar un trasplante de córnea… Este tipo de programación trata de descomponer el problema en instrucciones secuenciales, repeticiones y caminos alternativos (estos últimos en función de que se cumplan o no determinadas condiciones). Es una programación explícita, fija, y definida ya completamente antes de comenzar la ejecución del programa.

Por el contrario, un sistema basado en IA no tiene una programación completamente fija ni explícita. Una caracterización más precisa de la IA apunta a la capacidad de aprendizaje a partir de los datos obtenidos de su entorno con el fin de modificar el propio modo de funcionamiento. Por ejemplo, podría ser un sistema que “aprende” a jugar al tres en raya o al ajedrez analizando los movimientos en las partidas que va jugando, con sus victorias y derrotas. Así pues, una IA es una máquina que puede modificar su propia programación: es una máquina autoprogramable.

Si a esto añadimos la noción de inteligencia como capacidad de resolver problemas, resulta que…

una IA es un sistema basado en ordenador que es capaz de recibir y evaluar información de su entorno, y aprender a encontrar soluciones no explícitamente programadas a determinados problemas.

Aprender a resolver problemas

Esto sería la definición de IA específica o IA débil. Otras capacidades más “atrevidas” de lo que se conoce como IA general o IA fuerte serían abstracción, introspección, autoconciencia y libre albedrío; capacidades que ya son difíciles de definir en sí mismas, cuando las reconocemos en nosotros mismo o en otros seres humanos.

Inteligencia y autoprogramación

La idea de la autoprogramación es inherente al concepto de la Máquina Universal de Turing [1][2]. La computadora autoprogramable depende también de un logro tecnológico alcanzado al final de la Segunda Guerra Mundial: la máquina de programa almacenado. El propio Alan Turing desarrolla la idea en una conferencia ante la Sociedad Matemática de Londres, en 1947. Así describe Turing el “programa” en términos de tablas de instrucciones que se modifican a sí mismas [3]:

Supongamos que hemos diseñado una máquina con ciertas tablas de instrucciones iniciales, construidas de tal manera que estas tablas podrían en ocasiones, si surgiera una buena razón, modificarse a sí mismas. Podemos imaginar que, después de que la máquina haya estado funcionando durante algún tiempo, las instrucciones se habrán alterado de forma irreconocible, pero seguirán siendo tales que habrá que admitir que la máquina sigue haciendo cálculos muy valiosos. Posiblemente se sigan obteniendo resultados del tipo deseado cuando la máquina se puso en marcha por primera vez, pero de una manera mucho más eficiente. En tal caso, habría que admitir que el progreso de la máquina no se había previsto cuando se pusieron sus instrucciones originales. Sería como un alumno que hubiera aprendido mucho de su maestro, pero que hubiera añadido mucho más con su propio trabajo. Cuando esto ocurre, creo que uno está obligado a considerar que la máquina muestra inteligencia.

Quiero hacer notar que en estas palabras, donde Turing ni siquiera usa el término ‘programa’, hay una altísima dosis de especulación (¡estamos en 1947!), pero que fue indudablemente muy inspiradora. Se suele considerar que el primer ordenador de propósito general fue el ENIAC, construido en la Universidad de Pensilvania en 1946 para resolver problemas de cálculo numérico; y el primer ordenador de programa almacenado fue el EDSAC, construido a su vez en Cambridge en 1949 con la misma finalidad. 

Por otra parte, Turing señala que los resultados serán del tipo deseado (una referencia clara a la intencionalidad o propósito de la máquina), lo cual puede ser muy difícil de verificar cuando el programa automodificante ha escapado a nuestro control. Es decir, para garantizar que la máquina sigue haciendo algo útil (el resultado deseado), la evolución del programa tendrá que ser estrechamente controlada, supervisada y mantenida dentro de ciertos límites (que es justamente lo que hacen las modernas técnicas de IA). Por el contrario, si dejamos que haga cualquier cosa, tal vez eso sea signo de inteligencia, pero ya no podremos decir que es una máquina (aunque sí sea un sistema mecánico).

El Test de Turing, prefigurado por Descartes

Algunos estudiosos han sugerido que el famoso Test de Turing [4] está prefigurado en René Descartes y en los escritos de otros filósofos cartesianos [5][6][7]; también hay pruebas [8] de que Turing conocía las ideas de Descartes en el momento en que escribió su artículo de 1950.

El test de Turing

En efecto, es notable la caracterización de la razón humana que realiza Descartes en su Discurso del Método, para distinguirla de la inteligencia que puede exhibir una máquina. Según Descartes, lo propio de una máquina es tener un propósito particular, mientras que la razón humana se caracteriza por su propósito general –o universal–, de modo que esta diferencia nos ofrecería “un método seguro para distinguir seres humanos verdaderos de máquinas que se les parecen y que pretenden pasar por humanos” [9]. Recordemos que el Test de Turing pretende igualmente ofrecer un “método seguro” para distinguir humanos de máquinas. He aquí las palabras de Descartes en la Quinta Parte del Discurso [10]:

Aun cuando [las máquinas] hicieran varias cosas tan bien y acaso mejor que ninguno de nosotros, no dejarían de fallar en otras, por donde se descubriría que no obran por conocimiento, sino sólo por la disposición de sus órganos, pues mientras que la razón es un instrumento universal, que puede servir en todas las coyunturas, esos órganos, en cambio, necesitan una particular disposición para cada acción particular.

En el momento en que las máquinas programables de propósito general empiezan a ser una realidad, es lógico preguntarse si la distinción cartesiana no habrá sido superada. En todo caso, no quiero ahora discutir en profundidad si esta diferencia entre tener un propósito particular o universal se podría verdaderamente usar de forma metódica para construir un “test de humanidad” (tan solo apunto la dificultad de comprobar fehacientemente que una inteligencia es “universal”).

Me interesa más resaltar en este momento que Descartes define la razón humana como “instrumento universal”. Es decir, muy en la línea de considerar, como es típico hoy día, que la inteligencia es la “capacidad de resolver problemas”, preferentemente problemas cerrados, computables, maquinizables. Pero problemas, y esto es importante, que la razón no se ha propuesto ella misma, sino que le vienen dados. La inteligencia está “al servicio de”, es un instrumento, una herramienta.

Instrumento, solo instrumento

Como dirá otro importante filósofo, David Hume, de una forma u otra deudor de esta concepción cartesiana de la inteligencia, “la razón es y sólo puede ser la esclava de las pasiones y no puede pretender otro oficio más que servirlas y obedecerlas” [11, II-iii-3]. Es decir, según Hume la inteligencia está para resolver los problemas que plantean las pasiones; ella misma, en última instancia, no propone problemas, ni jerarquiza su importancia [12]. Es solo un instrumento, por muy universal que sea. No es misión de la inteligencia elegir los problemas que vale la pena resolver.

Mi único oficio es serviros y obedeceros

Entiéndase “pasión” en este contexto en un sentido general, no solo relativo a lo placentero (incluyendo por tanto lo que llamamos deseos, sueños, ilusiones y esperanzas): pasión por la música, por las matemáticas, por la justicia… Los seres humanos se sienten atraídos por estímulos u objetivos diversos, y las pasiones deben entenderse como pulsiones o impulsos hacia esos objetivos exteriores.

En esta concepción de la naturaleza humana, el papel de la razón es resolver un problema, elaborar una estrategia para satisfacer lo mejor posible el conjunto de pasiones; pero la razón no cuestiona ni elige las pasiones a las que debe servir. Su única misión es esforzarse por optimizar los recursos para satisfacerlas al máximo, como un camarero que anda alocado tratando de servir a tiempo a todas las mesas. Hume propone un sugestivo cuadro de la razón instrumental que anticipa y prepara un moderno modelo algorítmico de la inteligencia, orientado a resolver problemas, no a seleccionarlos.

Servir a tiempo a todas las mesas

En el enfoque sentimentalista humeano de la ética, la felicidad se alcanza cuando se satisfacen las pasiones. Las pasiones son fuerzas de atracción que, por analogía con las fuerzas newtonianas, sólo pueden ser resistidas si hay otra pasión que atraiga en sentido contrario. Como las pasiones son múltiples (el orgullo y la humildad, el amor y el odio, etc.) y apuntan en direcciones diferentes, el comportamiento resultante es un equilibrio de fuerzas que tiende a preservar la paz y la tranquilidad interiores (homeostasis).

En este modelo, la razón se entiende principalmente como una herramienta de optimización (razón técnica o instrumental, por tanto), utilizada para calcular el comportamiento que mejor satisface las pasiones implicadas y exige menos esfuerzo al sujeto. La razón es esclava de las pasiones: no cuestiona las pasiones que se le imponen de modo irresistible, ni sus objetivos, ni su fuerza de atracción; las pasiones, los objetivos vitales, son pre-racionales.

La ética como técnica de resolución de problemas

La consecuencia lógica de aceptar el carácter instrumental de la razón es desembocar en la negación de la libertad y en la teoría computacional de la mente, según la cual los humanos somos complicados robots biológicos, máquinas resolvedoras de problemas, esclavos de nuestros objetivos. Con un objetivo último que, en definitiva, no es otro que la supervivencia de la especie.

No es extraño que los que conciben, al modo cartesiano, que la razón humana es un instrumento universal para resolver problemas, tengan dificultad para admitir que pueda haber una diferencia insalvable entre máquinas y humanos (o, al menos, entre la inteligencia artificial y la inteligencia natural). Y pienso que la dificultad es real: si la razón es un instrumento, y nada más que un instrumento, al servicio de pulsiones pre-racionales, entonces bastará con saber “cómo funciona” para poder construir otro instrumento que sea capaz de realizar la misma tarea. El obstáculo que hay que salvar es solo tecnológico, no de principio, así que paciencia, todo llegará.

Y, de esta manera, si la ética se entiende también como una técnica para resolver problemas, entonces no hay razón para pensar que no pueda ser aprendida por una máquina. Entonces, ¿es la ética un juego de imitación?

Referencias

[1] Turing, A.M. (1936). On computable numbers, with an application to the Entscheidungsproblem. Proceedings of the London Mathematical Society 2(42): 230–265.

[2] Mahoney, M.S. (2002). Software: The Self-Programming Machine, in Atsushi Akera and Frederik Nebeker (eds.), From 0 to 1:  An Authoritative History of Modern Computing. New York: Oxford U.P., 2002.

[3] Turing, A.M. (1947). Lecture to the London Mathematical Society, 20 February 1947. In Carpenter, B.E., Doran, R.W. (eds), A.M. Turing’s ACE Report of 1946 and Other Papers, Cambridge, Mass.: MIT Press (1986).

[4] Turing, A.M. (1950). Computing Machinery and Intelligence. Mind 59: 433-460, 1950.

[5] Oppy, G., Dowe, D. (2020). The Turing Test, The Stanford Encyclopedia of Philosophy (Winter 2020 Edition), Edward N. Zalta (ed.).

[6] Copeland, J. (2000). “The Turing Test,” Minds and Machines, 10: 519–39.

[7] Gunderson, K. (1964). “Descartes, La Mettrie, Language and Machines,” Philosophy, 39: 193–222.

[8] Abramson, D. (2011). “Descartes’ Influence on Turing,” Studies in History and Philosophy of Science, 42: 544–551.

[9] D’Andrea, A. (2019). “Nuevas tecnologías: humanxs, algoritmos y programación”. En Osella, M., Moretti, J.M., Lorio N. (eds.), Actas de Filosofía y prácticas de sí. II Encuentro sobre técnicas del yo. Río Cuarto, 29 de noviembre de 2019. Río Cuarto, Córdoba, República Argentina: UniRío Editora.

[10] Descartes, R. (1637). El discurso del método. Madrid: Gredos, 2011. Original: Bien qu’elles fissent plusieurs choses aussi bien ou peut-être mieux qu’aucun de nous, elles manqueroient infailliblement en quelques autres, par lesquelles on découvriroit qu’elles n’agiroient pas par connoissance, mais seulement par la disposition de leurs organes: car, au lieu que la raison est un instrument universel qui peut servir en toutes sortes de rencontres, ces organes ont besoin de quelque particulière disposition pour chaque action particulière.

[11] Hume, D. (1739). A Treatise of Human Nature: Being an Attempt to introduce the experimental Method of Reasoning into Moral Subjects. London: John Noon, 1739. Original: Reason is, and ought only to be the slave of the passions, and can never pretend to any other office than to serve and obey them.

[12] Génova, G., Quintanilla Navarro, I. (2018). “Are Human Beings Humean Robots?” Journal of Experimental & Theoretical Artificial Intelligence 30(1):177–186.

Créditos de las imágenes

http://www.linkmesh.com/imagenes/temas/robots/jugando_ajedrez.jpg
http://en.wikipedia.org/wiki/Turing_test
https://pixabay.com/es/illustrations/muñeca-pintores-muñeca-928841/
https://pixabay.com/es/vectors/personas-pareja-camarero-mesa-146963/

Escrito en colaboración con mis colegas Valentín Moreno y Charo González.