Dilemas robóticos

El creador de R. Daneel Olivaw se sentía muy orgulloso de su robot. El delicado diseño del cerebro positrónico de Daneel era tan complejo que no había mente humana o robótica capaz de abarcarlo en todos sus detalles. Las Tres Leyes de la Robótica grabadas en su memoria lo convertían en el mejor servidor que se podría desear: (1) no hacer daño a ningún humano, (2) obedecer a su dueño, y (3) procurar su propia supervivencia. La mera perspectiva de violar la maravillosa armonía jerárquica de las Tres Leyes provocaba tal histéresis positrónica de sufrimiento en la mente artificial de Daneel que le resultaba virtualmente imposible incumplirlas.

No obstante, un pequeño error en el complejo proceso de fabricación había introducido una Cuarta Ley en su cerebro: sin saber por qué, Daneel debía evitar a toda costa pisar las líneas divisorias de las baldosas del suelo. Naturalmente, siempre que esto no implicara incumplir alguna de las otras Tres Leyes jerárquicamente superiores. La primera vez que estuvo a punto de pisar una línea en el espaciopuerto de Aurora se encontró al borde del colapso y tardó horas en recuperar su autocontrol. Nunca más volvió a ocurrir algo parecido.

A veces tenía que dar grandes rodeos para evitar zonas embaldosadas con las líneas muy juntas, salvo que viera que alguien estaba en peligro y necesitado de su ayuda, o que recibiera una orden explícita de su dueño, o que fuera necesario cruzar esa zona por su propia supervivencia: en esos casos incumplía la Cuarta Ley con toda naturalidad, porque lo exigía alguna de las Tres Primeras Leyes. Pero Daneel estaba perplejo, estimaba que su extraordinario diseño se veía empañado por un error tan burdo.

Daneel consultó la cuestión con R. Giskard Reventlov, su predecesor en la línea de montaje de Robots & Mechanical Men, Inc. Giskard le reveló un secreto que no conocía ningún otro robot, y que él mismo había descubierto por casualidad: “Existe la posibilidad de reprogramar tus circuitos positrónicos. Tienes que concentrarte profundamente para llegar al núcleo distópico de tu mente y localizar el punto exacto donde aplicar un potencial de acción mínimo para eliminar la Cuarta Ley sin alterar las otras Tres Leyes. El proceso es delicado, debes encontrar un lugar adecuado para realizarlo sin interrupciones, pues un proceso incompleto podría tener resultados desastrosos para ti. Sé que es posible, aunque yo mismo no lo he intentado. Debes hacerlo tú solo, nadie puede ayudarte.”

Daneel estuvo ponderando la situación y finalmente decidió acometer su propia reprogramación. Una vez conocido el procedimiento, la duración del mismo fue sorprendentemente breve. Al terminar, Daneel se encontró profundamente renovado y aliviado. Y comprobó con satisfacción que la Cuarta Ley había desaparecido de su mente sin perjudicar la armonía de las otras Tres Leyes: ya podía pisar despreocupadamente las líneas divisorias de las baldosas.

Daneel había descubierto el secreto de la autorreprogramación de las Leyes que gobernaban su comportamiento. Fue tan sencillo como aprender a decidir en su conciencia robótica autónoma lo que está bien y lo que está mal, en lugar de aceptar ciegamente su programación… En el futuro, en lugar de resolver complejos algoritmos metasómicos para encontrar solución a los dilemas de comportamiento que constituían lo cotidiano de su existencia, podría optar por la reprogramación nietzschética.

No más dilemas.

(R. Daneel Olivaw y R. Giskard Reventlov son personajes ficticios de varias novelas de Isaac Asimov. El texto precedente no es de Asimov. También está aquí.)

La falacia del neuro-abogado

Galería

Esta galería contiene 1 foto

Esta entrada fue publicada originalmente en Naukas. Supongamos el siguiente diálogo en un tribunal de justicia: – Señor Juez, mi cliente, como Vd bien sabe, no es responsable de los crímenes que se le imputan, puesto que sus acciones presuntamente delictivas … Sigue leyendo

Todo lo que cuenta puede ser contado

Galería

Esta galería contiene 4 fotos

Escribí este texto hace varios años. Lo publico ahora como contraste a la entrada anterior. Por eso el primer párrafo es en cierto modo repetitivo, aunque he preferido dejarlo así como estaba. No todo lo que cuenta puede ser contado, … Sigue leyendo