Dilemas robóticos

El creador de R. Daneel Olivaw se sentía muy orgulloso de su robot. El delicado diseño del cerebro positrónico de Daneel era tan complejo que no había mente humana o robótica capaz de abarcarlo en todos sus detalles. Las Tres Leyes de la Robótica grabadas en su memoria lo convertían en el mejor servidor que se podría desear: (1) no hacer daño a ningún humano, (2) obedecer a su dueño, y (3) procurar su propia supervivencia. La mera perspectiva de violar la maravillosa armonía jerárquica de las Tres Leyes provocaba tal histéresis positrónica de sufrimiento en la mente artificial de Daneel que le resultaba virtualmente imposible incumplirlas.

No obstante, un pequeño error en el complejo proceso de fabricación había introducido una Cuarta Ley en su cerebro: sin saber por qué, Daneel debía evitar a toda costa pisar las líneas divisorias de las baldosas del suelo. Naturalmente, siempre que esto no implicara incumplir alguna de las otras Tres Leyes jerárquicamente superiores. La primera vez que estuvo a punto de pisar una línea en el espaciopuerto de Aurora se encontró al borde del colapso y tardó horas en recuperar su autocontrol. Nunca más volvió a ocurrir algo parecido.

A veces tenía que dar grandes rodeos para evitar zonas embaldosadas con las líneas muy juntas, salvo que viera que alguien estaba en peligro y necesitado de su ayuda, o que recibiera una orden explícita de su dueño, o que fuera necesario cruzar esa zona por su propia supervivencia: en esos casos incumplía la Cuarta Ley con toda naturalidad, porque lo exigía alguna de las Tres Primeras Leyes. Pero Daneel estaba perplejo, estimaba que su extraordinario diseño se veía empañado por un error tan burdo.

Daneel consultó la cuestión con R. Giskard Reventlov, su predecesor en la línea de montaje de Robots & Mechanical Men, Inc. Giskard le reveló un secreto que no conocía ningún otro robot, y que él mismo había descubierto por casualidad: “Existe la posibilidad de reprogramar tus circuitos positrónicos. Tienes que concentrarte profundamente para llegar al núcleo distópico de tu mente y localizar el punto exacto donde aplicar un potencial de acción mínimo para eliminar la Cuarta Ley sin alterar las otras Tres Leyes. El proceso es delicado, debes encontrar un lugar adecuado para realizarlo sin interrupciones, pues un proceso incompleto podría tener resultados desastrosos para ti. Sé que es posible, aunque yo mismo no lo he intentado. Debes hacerlo tú solo, nadie puede ayudarte.”

Daneel estuvo ponderando la situación y finalmente decidió acometer su propia reprogramación. Una vez conocido el procedimiento, la duración del mismo fue sorprendentemente breve. Al terminar, Daneel se encontró profundamente renovado y aliviado. Y comprobó con satisfacción que la Cuarta Ley había desaparecido de su mente sin perjudicar la armonía de las otras Tres Leyes: ya podía pisar despreocupadamente las líneas divisorias de las baldosas.

Daneel había descubierto el secreto de la autorreprogramación de las Leyes que gobernaban su comportamiento. Fue tan sencillo como aprender a decidir en su conciencia robótica autónoma lo que está bien y lo que está mal, en lugar de aceptar ciegamente su programación… En el futuro, en lugar de resolver complejos algoritmos metasómicos para encontrar solución a los dilemas de comportamiento que constituían lo cotidiano de su existencia, podría optar por la reprogramación nietzschética.

No más dilemas.

(R. Daneel Olivaw y R. Giskard Reventlov son personajes ficticios de varias novelas de Isaac Asimov. El texto precedente no es de Asimov. También está aquí.)

Cómo garantizar las decisiones éticas de la Inteligencia Artificial

Galería

Enlazo aquí una entrevista que me hicieron hace unas semanas, realizada por Héctor Velázquez, director del Centro Sociedad Tecnológica y Futuro Humano de la Universidad Mayor en Santiago de Chile, dentro del ciclo “Escuchar para comprender: reflexiones en tiempos de … Sigue leyendo

La ética no es un juego de imitación

Galería

Esta entrada fue publicada originalmente Naukas. Además, se publicó posteriormente una versión resumida en The Conversation. El pasado 5 de marzo la Universidad de Oviedo me invitó, a través de Pablo Revuelta, a participar en las II Jornadas de Ingeniería … Sigue leyendo