¿Deberíamos tener miedo a la Inteligencia Artificial?


There are two kinds of fears, rational and irrational.
Being afraid of realtors is an irrational fear.

Según Lemony Snicket, hay dos clases de miedo: racional e irracional. Temer a los agentes inmobiliarios es un miedo irracional (si no viste la película Una serie de catastróficas desdichas o no leíste los libros, ¿a qué estás esperando?). Pero otros miedos son completamente racionales. Como el miedo que debemos inculcar en los niños y niñas pequeños ante los cuchillos, los enchufes y los coches.

¿Qué decir del miedo a la Inteligencia Artificial? El Parlamento Europeo se toma la pregunta muy en serio, y prueba de ello es que encargó un informe a un grupo de expertos (Peter J. Bentley, Miles Brundage, Olle Häggström y Thomas Metzinger, con prólogo de la eurodiputada María Teresa Giménez Barbat), publicado en marzo de 2018: Should we fear artificial intelligence? In-depth Analysis (hay versión en español). El informe es serio, a pesar de la estética cómic de su imagen de portada.


Should we fear artificial intelligence? In-depth Analysis

En mi opinión, a pesar de todas sus innegables virtudes, y sin necesidad de pensar en máquinas que adquieran libertad y se rebelen contra la humanidad, hay tres razones muy razonables para tener un miedo completamente racional a la Inteligencia Artificial:

  1. Como cualquier otro artefacto humano, una máquina gobernada por un sistema de inteligencia artificial puede fallar, incluso catastróficamente. Una locomotora a vapor puede explotar.
  2. Como cualquier otro artefacto humano, los sistemas basados en inteligencia artificial pueden tener efectos imprevistos e indeseados. El trazado ferroviario puede tener efectos ambientales muy perniciosos.
  3. Y, como cualquier otro artefacto humano, la inteligencia artificial puede usarse para hacer el mal deliberadamente. Como los trenes que llevaban prisioneros a los campos de exterminio nazis o a los gulags soviéticos.

Hay miedos irracionales, claro que sí. Como el miedo de Tía Josephine a los agentes inmobiliarios. Pero tener miedo no es de por sí irracional. La Inteligencia Artificial no podrá ser perfectamente contenida en ningún sistema de leyes para gobernarla, por eso no hay que bajar la guardia.

El miedo a la Inteligencia Artificial no tiene nada de irracional. No advertir a un niño de que los coches son peligrosos y debe mirar bien antes de cruzar es insensato.

Anuncio publicitario

2 comentarios en “¿Deberíamos tener miedo a la Inteligencia Artificial?

  1. Buenas

    Me parece buen consejo no bajar la guardia ante la inteligencia artificial, pero también me parece oportuno desmitificar la propaganda ideologizante de algunos científicos que dicen hablar en nombre de la ciencia. Una de las características del pensamiento posmoderno es la crítica a conceptos tradicionales e ilustrados como son la verdad epistémica, el progreso finalista y la univocidad del significado. Martin Heidegger, siguiendo a Nietzsche, rechazaba la concepción de la realidad como un sistema racional de causas y efectos que tiene como modelo la objetividad científica para dominar y organizar rigurosamente el mundo. En lo que se refiere a la ciencia el concepto de causalidad es imprescindible para elaborar epistemologías que tengan un mínimo de consistencia. Sin el concepto de causa la ciencia y sus diversas ramas se hubiesen fosilizado y el progreso científico no habría existido. La quiebra del concepto histórico de causalidad la vemos en el movimiento antivacunas, en el terraplanismo y en las posiciones científicas hiperrealistas que niegan la función de la especulación, la curiosidad y la valentía para exponer tesis y conjeturas novedosas. En efecto, si la causalidad no tiene hueco en la ciencia ¿qué sentido poseen las tesis que se salen de la normalidad mainstream?

    Si la ciencia careciese de causas y de progreso finalista aún estaríamos atascados en la teoría geocéntrica ptolemaica y el esfuerzo y sacrificio de Copérnico, Kepler, Galileo y Bruno hubiese sido en balde. El trabajo de estos autores, más allá de los matices, se caracterizó por establecer relaciones causales que explicaban de manera consistente una serie de datos y observaciones. Charles Darwin alumbró su teoría de la evolución de las especies con ideas de cosecha propia pero también incorporó a su teoría argumentos de Lamarck, Malthus y del geólogo Lyell. Es decir, erigió una estructura causalista con la suficiente solidez para mostrarse consistente. El desarrollo histórico de esta investigación tuvo continuación con el brillante trabajo de Crick y Watson que en 1953 descubrieron el ADN.

    En suma, la ciencia se sustenta en principios y mecanismos causales que tienen un recorrido en el tiempo y el espacio (son finalistas) y forman parte de la cultura humana. El ataque a la causalidad en nombre del pensamiento posmoderno, de un concepto extravagante de la ciencia o por el deseo de escandalizar o llamar la atención me parece un disparate de considerable magnitud. Si este ataque encuentra eco y aplauso estaríamos ante el indicio del declive de nuestra civilización.

    Me gusta

    • Hola Trenchtown,

      >> también me parece oportuno desmitificar la propaganda ideologizante de algunos científicos que dicen hablar en nombre de la ciencia

      Conforme (supongo que tu crítica no va dirigida a mí mismo).

      >> Una de las características del pensamiento posmoderno es la crítica a conceptos tradicionales e ilustrados como son la verdad epistémica, el progreso finalista y la univocidad del significado.

      Todo esfuerzo por desautorizar el pensamiento posmoderno será bienvenido.

      >> Martin Heidegger, siguiendo a Nietzsche, rechazaba la concepción de la realidad como un sistema racional de causas y efectos que tiene como modelo la objetividad científica para dominar y organizar rigurosamente el mundo.

      No estoy muy seguro de si aquí pretendes criticar a Heidegger (tal vez como origen del pensamiento posmoderno). No conozco en profundidad a Heidegger, y desde luego no lo voy a defender en bloque. Por supuesto que la idea de causalidad es imprescindible en la ciencia.

      Ahora bien, si lo que pretendía Heidegger no fue «rechazar la concepción de la realidad como un sistema racional de causas y efectos», sino más bien rechazar la concepción de la realidad como exclusivamente un sistema racional de causas y efectos, entonces creo que es un rechazo pertinente. En definitiva, es el rechazo del reduccionismo cientifista, rechazo que como bien sabes comparto plenamente.

      >> El ataque a la causalidad en nombre del pensamiento posmoderno, de un concepto extravagante de la ciencia o por el deseo de escandalizar o llamar la atención me parece un disparate de considerable magnitud. Si este ataque encuentra eco y aplauso estaríamos ante el indicio del declive de nuestra civilización.

      Completamente de acuerdo.

      Me gusta

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s