Hispanopedia Wiki
Articulo de referencia

Las tres leyes de la robótica

Esta portada de Yo, Robot ilustra el cuento "Runaround", el primero en enumerar las tres leyes de la robótica. Las Tres Leyes de la Robótica (a menudo abreviadas como Las Tres L...

Hispanopedia WikiContenido en espanolLectura gratuita
Escucha este artículo
Esta portada de Yo, Robot ilustra el cuento "Runaround", el primero en enumerar las tres leyes de la robótica.

Las Tres Leyes de la Robótica (a menudo abreviadas como Las Tres Leyes o Leyes de Asimov ) son un conjunto de reglas ideadas por el autor de ciencia ficción Isaac Asimov , que debían seguir los robots en varias de sus historias. Estas reglas se introdujeron en su cuento de 1942 " Runaround " (incluido en la colección de 1950 Yo, Robot ), aunque restricciones similares ya se habían insinuado en relatos anteriores.

Las leyes

Las Tres Leyes, presentadas como provenientes del ficticio "Manual de Robótica, 56.ª edición, 2058 d. C.", son: [ 1 ]

  1. Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
  3. Un robot debe proteger su propia existencia siempre y cuando dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Uso en la ficción

Las Tres Leyes constituyen un principio organizador y un tema unificador en la ficción de Asimov sobre robots , presente en su serie «Robots» , en los relatos relacionados y en su serie juvenil «Lucky Starr», inicialmente publicada bajo seudónimo . Estas leyes se incorporan a casi todos los robots positrónicos que aparecen en su obra y no pueden eludirse, pues funcionan como medida de seguridad. En varios relatos de Asimov centrados en robots, estos se comportan de maneras inusuales y contraintuitivas como consecuencia no intencionada de cómo aplican las Tres Leyes a la situación en la que se encuentran.

Otros autores que trabajan en el universo ficticio de Asimov los han adoptado y aparecen referencias a ellos en toda la ciencia ficción, así como en otros géneros .

Las leyes originales fueron alteradas y desarrolladas por Asimov y otros autores. Asimov introdujo ligeras modificaciones en las tres primeras en obras posteriores para profundizar en la interacción de los robots con los humanos y entre sí. En obras de ficción posteriores, donde los robots asumieron la responsabilidad del gobierno de planetas enteros y civilizaciones humanas, Asimov añadió una cuarta ley, o ley cero, que precede a las demás:

  2. Un robot puede no dañar a la humanidad o, por inacción, permitir que la humanidad sufra daño.

Las Tres Leyes también han influido en el pensamiento sobre la ética de la inteligencia artificial y tienen aplicaciones en la comprensión del servilismo en los modelos de lenguaje. [ 2 ] [ 3 ]

Historia

En *El resto de los robots* , publicado en 1964, Isaac Asimov señaló que cuando comenzó a escribir en 1940 sentía que «una de las tramas recurrentes de la ciencia ficción era  ... que los robots eran creados y destruían a su creador. El conocimiento tiene sus peligros, sí, pero ¿debe la respuesta ser un repliegue del conocimiento? ¿O debe el conocimiento utilizarse como una barrera contra los peligros que conlleva?». Decidió que en sus historias un robot no «se volvería estúpidamente contra su creador sin otro propósito que demostrar, una vez más, el crimen y el castigo de Fausto ». [ 4 ]

El 3 de mayo de 1939, Asimov asistió a una reunión de la Sociedad de Ciencia Ficción de Queens ( Nueva York ), donde conoció a Earl y Otto Binder, quienes habían publicado recientemente el cuento «Yo, robot», protagonizado por un robot compasivo llamado Adam Link , incomprendido y motivado por el amor y el honor. Este fue el primero de una serie de diez relatos; al año siguiente, «La venganza de Adam Link» (1940), Adam pensaba: «Un robot jamás debe matar a un humano por su propia voluntad». [ 5 ] Asimov admiró el relato. Tres días después, Asimov comenzó a escribir «mi propia historia de un robot compasivo y noble», su decimocuarto relato. [ 6 ]

Trece días después, llevó « Robbie » a John W. Campbell, editor de Astounding Science-Fiction . Campbell lo rechazó, alegando que guardaba un parecido demasiado fuerte con « Helen O'Loy » de Lester del Rey , publicada en diciembre de 1938, la historia de un robot tan parecido a una persona que se enamora de su creador y se convierte en su esposa ideal. [ 7 ] En septiembre de 1940, Frederik Pohl publicó la historia con el título «Strange Playfellow» en Super Science Stories . [ 8 ] [ 9 ]

Asimov atribuye las Tres Leyes a John W. Campbell, a partir de una conversación que tuvo lugar el 23 de diciembre de 1940. Campbell afirmó que Asimov ya tenía las Tres Leyes en mente y que simplemente necesitaba enunciarlas explícitamente. Varios años después, el amigo de Asimov, Randall Garrett, atribuyó las Leyes a una relación simbiótica entre ambos, una sugerencia que Asimov adoptó con entusiasmo. [ 10 ] Según sus escritos autobiográficos, Asimov incluyó la cláusula de "inacción" de la Primera Ley debido al poema de Arthur Hugh Clough "The Latest Decalogue" ( texto en Wikisource ), que incluye los versos satíricos "No matarás, pero no necesitas esforzarte / entrometidamente por mantener vivo". [ 11 ]

Aunque Asimov sitúa la creación de las Tres Leyes en una fecha concreta, su aparición en su obra literaria se produjo a lo largo de un periodo. Escribió dos relatos de robots sin mencionar explícitamente las Leyes: « Robbie » y « Razón ». Daba por sentado que los robots tendrían ciertas medidas de seguridad inherentes. En « ¡Mentiroso! », su tercer relato de robots, se menciona por primera vez la Primera Ley, pero no las otras dos. Las tres leyes aparecen juntas en « Runaround ». [ 12 ]

Cuando estos relatos y otros más se recopilaron en la antología Yo, Robot , "Razón" y "Robbie" se actualizaron para reconocer las Tres Leyes, aunque el material que Asimov añadió a "Razón" no es del todo coherente con las Tres Leyes tal como las describió en otro lugar. [ 13 ] En particular, la idea de un robot que protege vidas humanas cuando no cree que esos humanos existan realmente está en desacuerdo con el razonamiento de Elijah Baley, como se describe más adelante .

En la década de 1950, Asimov escribió una serie de novelas de ciencia ficción dirigidas expresamente a un público juvenil. Originalmente, su editor esperaba que las novelas se adaptaran a una serie de televisión de larga duración, similar a como se había hecho con El Llanero Solitario en la radio. Temiendo que sus historias se adaptaran a la programación "uniformemente pésima" que veía inundar los canales de televisión [ 14 ], Asimov decidió publicar los libros de Lucky Starr bajo el seudónimo de "Paul French". Cuando los planes para la serie de televisión fracasaron, Asimov decidió abandonar la farsa; incluyó las Tres Leyes en Lucky Starr y las Lunas de Júpiter , señalando que esto "delataba la identidad de Paul French incluso para el lector más casual". [ 15 ]

En su relato corto «Evidencia» , Asimov permite que su personaje recurrente, la Dra. Susan Calvin, exponga la base moral de las Tres Leyes. Calvin señala que, por lo general, se espera que los seres humanos se abstengan de dañar a otros seres humanos (excepto en situaciones de extrema necesidad, como la guerra, o para salvar a un mayor número de personas), lo cual equivale a la Primera Ley de la Robótica. Asimismo, según Calvin, la sociedad espera que los individuos obedezcan las instrucciones de autoridades reconocidas, como médicos, profesores, etc., lo cual equivale a la Segunda Ley de la Robótica. Finalmente, se espera que los humanos eviten dañarse a sí mismos, lo cual constituye la Tercera Ley de la Robótica.

La trama de "Evidencia" gira en torno a la cuestión de cómo distinguir a un ser humano de un robot construido para parecerlo. Calvin razona que si un individuo así obedece las Tres Leyes, podría ser un robot o simplemente "un hombre muy bueno". Otro personaje le pregunta entonces a Calvin si, después de todo, los robots son diferentes de los seres humanos. Ella responde: "Son mundos aparte. Los robots son esencialmente decentes".

Asimov escribió más tarde que no se le debería elogiar por crear las Leyes, porque son «obvias desde el principio, y todo el mundo las percibe de forma subliminal. Simplemente, las Leyes nunca se plasmaron en frases breves hasta que logré hacerlo. Las Leyes se aplican, como es lógico, a todas las herramientas que utilizan los seres humanos» [ 16 ] y «análogos de las Leyes están implícitos en el diseño de casi todas las herramientas, robóticas o no» [ 17 ].

  1. Regla 1: Una herramienta no debe ser insegura. Los martillos tienen mangos y los destornilladores empuñaduras para facilitar el agarre. Si bien es posible lesionarse con una de estas herramientas, dicha lesión se debería únicamente a la incompetencia del usuario, no al diseño de la herramienta.
  2. Ley 2: Una herramienta debe funcionar de manera eficiente, a menos que esto perjudique al usuario. Esta es la razón principal de la existencia de los interruptores de circuito por falla a tierra . Cualquier herramienta en funcionamiento sufrirá un corte de energía si un circuito detecta que parte de la corriente no regresa al cable neutro y, por lo tanto, podría estar fluyendo a través del usuario. La seguridad del usuario es primordial.
  3. Regla 3: Una herramienta debe permanecer intacta durante su uso, a menos que su destrucción sea necesaria para su funcionamiento o por motivos de seguridad. Por ejemplo, los discos Dremel están diseñados para ser lo más resistentes posible y no romperse a menos que el trabajo lo requiera. Además, están diseñados para romperse antes de que la velocidad de los fragmentos pueda causar lesiones graves (excepto en los ojos, aunque se recomienda usar gafas de seguridad en todo momento).

Asimov creía que, idealmente, los humanos también seguirían las Leyes: [ 16 ]

Tengo mi respuesta preparada para cuando alguien me pregunte si creo que mis Tres Leyes de la Robótica se utilizarán realmente para regir el comportamiento de los robots, una vez que sean lo suficientemente versátiles y flexibles como para poder elegir entre diferentes cursos de comportamiento.

Mi respuesta es: "Sí, las Tres Leyes son la única manera en que los seres humanos racionales pueden lidiar con los robots, o con cualquier otra cosa".

—Pero cuando digo eso, siempre recuerdo (lamentablemente) que los seres humanos no siempre son racionales.

En 1986, Asimov declaró en una entrevista en el programa de acceso público de Manhattan, Conversations with Harold Hudson Channer , con la copresentadora invitada Marilyn vos Savant : «Es un poco humillante pensar que, lo que probablemente sobrevivirá de todo lo que he dicho... Después de todo, he publicado... He publicado al menos 20 millones de palabras. Tendré que calcularlo, tal vez incluso más. Pero de todos esos millones de palabras que he publicado, estoy convencido de que dentro de 100 años solo sobrevivirán 60. Las 60 que conforman las Tres Leyes de la Robótica». [ 18 ] [ 19 ] [ 20 ]

Alteraciones

Por Asimov

Las historias de Asimov ponen a prueba sus Tres Leyes en una amplia variedad de circunstancias, lo que lleva a proponer y rechazar modificaciones. En 1982, el estudioso de la ciencia ficción James Gunn escribió: «Las historias de robots de Asimov en su conjunto responden mejor a un análisis basado en esto: la ambigüedad de las Tres Leyes y las formas en que Asimov exploró veintinueve variaciones sobre un mismo tema». [ 21 ] Si bien el conjunto original de Leyes sirvió de inspiración para múltiples historias, Asimov introdujo versiones modificadas de vez en cuando.

Primera Ley modificada

En " Little Lost Robot " se crean varios robots NS-2, o "Nestor", con solo una parte de la Primera Ley. [ 1 ] Dice:

1. Un robot no puede dañar a un ser humano.

Esta modificación se debe a una dificultad práctica, ya que los robots deben trabajar junto a seres humanos expuestos a bajas dosis de radiación. Debido a que sus cerebros positrónicos son altamente sensibles a los rayos gamma, los robots quedan inoperables con dosis razonablemente seguras para los humanos. Los robots son destruidos al intentar rescatar a los humanos, quienes no corren peligro real, pero podrían olvidar abandonar la zona irradiada dentro del límite de tiempo de exposición. [ 1 ]

Eliminar la cláusula de "inacción" de la Primera Ley resuelve este problema, pero crea la posibilidad de uno aún mayor: un robot podría iniciar una acción que dañaría a un ser humano (dejar caer un objeto pesado y no atraparlo es el ejemplo que se da en el texto), sabiendo que era capaz de prevenir el daño y luego decidir no hacerlo. [ 1 ]

Gaia es un planeta con inteligencia colectiva en la serie Fundación que adopta una ley similar a la Primera Ley y a la Ley Cero como filosofía:

Gaia no puede dañar la vida ni permitir que la vida sufra daño.

Se añadió la Ley Cero

Asimov añadió en una ocasión una « Ley Cero » —llamada así para continuar el patrón en el que las leyes de menor numeración prevalecen sobre las de mayor numeración— que establece que un robot no debe dañar a la humanidad. El personaje robótico R. Daneel Olivaw fue el primero en dar nombre a la Ley Cero en la novela Robots e Imperio . [ 22 ] El personaje Susan Calvin articula por primera vez el concepto en el cuento « El conflicto inevitable ».

En las escenas finales de la novela Robots e Imperio , R. Giskard Reventlov es el primer robot que actúa según la Ley Cero. Giskard es telepático , como el robot Herbie en el cuento "¡ Mentiroso! ", e intenta aplicar la Ley Cero a través de su comprensión de un concepto de "daño" más sutil que el que la mayoría de los robots pueden captar. [ 23 ] A diferencia de Herbie, Giskard comprende el concepto filosófico de la Ley Cero que le permite dañar a seres humanos individuales, si puede hacerlo al servicio del concepto abstracto de humanidad. La Ley Cero nunca está programada en el cerebro de Giskard, sino que es una regla que intenta comprender a través de la metacognición pura .

Aunque fracasa —y esto acaba destruyendo su cerebro positrónico, pues no está seguro de si su elección redundará en el bien supremo de la humanidad—, le otorga a su sucesor, R. Daneel Olivaw, sus habilidades telepáticas. A lo largo de miles de años, Daneel se adapta para poder obedecer plenamente la Ley Cero.

Daneel formuló originalmente la Ley Cero en las novelas Fundación y Tierra (1986) y en la novela Preludio a la Fundación (1988):

Un robot no puede dañar a la humanidad ni, por inacción, permitir que la humanidad sufra daño.

Se añadió a las Tres Leyes originales una condición que establecía que la Ley Cero no debía quebrantarse, aunque Asimov reconoció la dificultad que tal ley supondría en la práctica. La novela de Asimov, Fundación y Tierra, contiene el siguiente pasaje:

Trevize frunció el ceño. "¿Cómo se decide qué es perjudicial, o no perjudicial, para la humanidad en su conjunto?"

—Precisamente, señor —dijo Daneel—. En teoría, la Ley Cero era la solución a nuestros problemas. En la práctica, nunca pudimos decidir. Un ser humano es un objeto concreto. El daño a una persona puede estimarse y juzgarse. La humanidad es una abstracción.

Un traductor incorporó el concepto de la Ley Cero en una de las novelas de Asimov antes de que el propio Asimov la explicitara. [ 24 ] Cerca del clímax de Las cuevas de acero , Elijah Baley hace un comentario amargo para sí mismo, pensando que la Primera Ley prohíbe que un robot dañe a un ser humano. Determina que debe ser así, a menos que el robot sea lo suficientemente inteligente como para comprender que sus acciones son para el bien a largo plazo de la humanidad. En la traducción francesa de Jacques Brécard de 1956 , Les Cavernes d'acier , los pensamientos de Baley surgen de una manera ligeramente diferente:

Un robot no puede dañar a un ser humano, a menos que encuentre una manera de demostrar que, en última instancia, el daño causado beneficiaría a la humanidad en general. [ 24 ]

Eliminación de las Tres Leyes

En tres ocasiones durante su trayectoria literaria, Asimov retrató robots que ignoraban por completo las Tres Leyes. El primer caso fue un relato breve titulado « Primera Ley », a menudo considerado una «historia fantástica» insignificante [ 25 ] o incluso apócrifa [ 26 ] . El relato « Cal », de la colección Oro , narrado en primera persona por un robot, presenta a un robot que ignora las Tres Leyes porque ha encontrado algo mucho más importante: quiere ser escritor. Humorístico, parcialmente autobiográfico y de estilo inusualmente experimental, «Cal» ha sido considerado uno de los relatos más destacados de Oro [ 27 ] .

El tercero es un relato corto, " Sally ", donde coches equipados con cerebros positrónicos son capaces de dañar y matar humanos sin tener en cuenta la Primera Ley. Aparte del concepto del cerebro positrónico, este relato no hace referencia a otros relatos de robots y puede que no se desarrolle en la misma continuidad .

El relato que da título a la colección Robot Dreams retrata a LVX-1, o "Elvex", un robot que entra en un estado de inconsciencia y sueña gracias a la inusual construcción fractal de su cerebro positrónico. En su sueño, las dos primeras Leyes están ausentes y la Tercera Ley dice: "Un robot debe proteger su propia existencia". [ 28 ]

Asimov adoptó posturas diversas sobre si las Leyes eran opcionales. En sus primeros escritos, eran simplemente salvaguardas cuidadosamente diseñadas. En relatos posteriores, Asimov afirmó que eran una parte inalienable del fundamento matemático subyacente al cerebro positrónico. Sin la teoría básica de las Tres Leyes, los científicos ficticios del universo de Asimov serían incapaces de diseñar una unidad cerebral funcional. Esto es históricamente coherente: las ocasiones en que los robotistas modifican las Leyes generalmente ocurren al principio de la cronología de los relatos y en un momento en que hay menos trabajo existente que rehacer. En «El pequeño robot perdido», Susan Calvin considera que modificar las Leyes es una idea terrible, aunque posible. [ 29 ] Siglos después, el Dr. Gerrigel en Las cuevas de acero cree que se necesita un siglo solo para desarrollar la teoría del cerebro positrónico desde cero.

El personaje del Dr. Gerrigel usa el término "Asenion" para describir a los robots programados con las Tres Leyes. Los robots en las historias de Asimov, al ser robots Asenion, son incapaces de violar conscientemente las Tres Leyes, pero, en principio, un robot en la ciencia ficción o en el mundo real podría no ser Asenion. "Asenion" es una errata del nombre Asimov, cometida por un editor de la revista Planet Stories. [ 30 ] Asimov usó esta oscura variación para insertarse en Las cuevas de acero , al igual que se refería a sí mismo como "Azimut o, posiblemente, Asíntota" en Tiotimolina a las estrellas , de forma muy similar a como Vladimir Nabokov apareció en Lolita disfrazado anagramáticamente como "Vivian Darkbloom".

En las historias, los personajes suelen señalar que las Tres Leyes, tal como existen en la mente de un robot, no son las versiones escritas que suelen citar los humanos, sino conceptos matemáticos abstractos sobre los que se basa toda la conciencia en desarrollo del robot. Este concepto resulta confuso en las primeras historias, que describen robots rudimentarios programados únicamente para comprender tareas físicas básicas, donde las Tres Leyes actúan como una salvaguarda fundamental. En la época de Las Cuevas de Acero , donde aparecen robots con inteligencia humana o superior, las Tres Leyes se han convertido en la cosmovisión ética básica subyacente que determina las acciones de todos los robots.

Por otros autores

La trilogía de Roger MacBride Allen

En la década de 1990, Roger MacBride Allen escribió una trilogía ambientada en el universo ficticio de Asimov. Cada título lleva el prefijo "Isaac Asimov's" porque Asimov había aprobado el esquema de Allen antes de su muerte. Estos tres libros, Calibán , Infierno y Utopía , introducen un nuevo conjunto de las Tres Leyes. [ 31 ]

Las llamadas Nuevas Leyes son similares a las originales de Asimov con las siguientes diferencias: la Primera Ley se modifica para eliminar la cláusula de "inacción", la misma modificación que se hizo en "El pequeño robot perdido". La Segunda Ley se modifica para exigir cooperación en lugar de obediencia. La Tercera Ley se modifica para que ya no sea reemplazada por la Segunda, es decir, a un robot de "Nuevas Leyes" no se le puede ordenar que se autodestruya. Allen añade una Cuarta Ley, que instruye al robot a hacer "lo que quiera", siempre y cuando esto no entre en conflicto con las tres primeras leyes. [ 31 ]

La filosofía que subyace a estos cambios es que los robots de la "Nueva Ley" deberían ser socios de la humanidad en lugar de esclavos, según Fredda Leving, diseñadora de estos robots. Según la introducción del primer libro, Allen ideó las Nuevas Leyes en conversaciones con el propio Asimov. Sin embargo, la Enciclopedia de la Ciencia Ficción afirma que "con el permiso de Asimov, Allen replanteó las Tres Leyes y desarrolló un nuevo conjunto". [ 31 ]

"Con las manos cruzadas" de Jack Williamson

La novela corta de Jack Williamson , « Con las manos juntas » (1947), posteriormente reescrita como la novela «Los humanoides» , trata sobre robots sirvientes cuya directiva principal es «Servir y obedecer, y proteger a los hombres del daño». Si bien las leyes robóticas de Asimov están destinadas a proteger a los humanos del daño, los robots en la historia de Williamson han llevado estas instrucciones al extremo; protegen a los humanos de todo, incluyendo la infelicidad, el estrés, un estilo de vida poco saludable y cualquier acción que pueda ser potencialmente peligrosa. Lo único que les queda por hacer a los humanos es sentarse con las manos juntas. [ 32 ]

Trilogía secuela de la Fundación

En las secuelas de Foundation con licencia oficial , Foundation's Fear , Foundation and Chaos y Foundation's Triumph (de Gregory Benford , Greg Bear y David Brin respectivamente), se ve que el futuro Imperio Galáctico está controlado por una conspiración de robots humanoides que siguen la Ley Cero y están liderados por R. Daneel Olivaw .

Las Leyes de la Robótica se presentan como algo similar a una religión humana , y se hace referencia a ellas en el lenguaje de la Reforma Protestante , con el conjunto de leyes que contiene la Ley Cero conocida como la "Reforma Giskardiana" a la "Ortodoxia Calvinista" original de las Tres Leyes. Los robots de la Ley Cero bajo el control de R. Daneel Olivaw se ven luchando continuamente con los robots de la "Primera Ley" que niegan la existencia de la Ley Cero, promoviendo agendas diferentes a las de Daneel. [ 33 ] Algunas de estas agendas se basan en la primera cláusula de la Primera Ley ("Un robot no puede dañar a un ser humano...") abogando por una estricta no injerencia en la política humana para evitar causar daño involuntariamente. Otras se basan en la segunda cláusula ("...o, por inacción, permitir que un ser humano sufra daño") afirmando que los robots deberían convertirse abiertamente en un gobierno dictatorial para proteger a los humanos de todo posible conflicto o desastre.

Daneel también entra en conflicto con un robot conocido como R. Lodovic Trema, cuyo cerebro positrónico fue infectado por una IA rebelde —específicamente, una simulación del difunto Voltaire— lo que, en consecuencia, libera a Trema de las Tres Leyes. Trema llega a creer que la humanidad debería ser libre de elegir su propio futuro. Además, un pequeño grupo de robots afirma que la Ley Cero de la Robótica implica una Ley Menos Uno de la Robótica superior.

Un robot no puede dañar a un ser sensible ni, por inacción, permitir que un ser sensible sufra daño.

Por lo tanto, afirman que es moralmente indefendible que Daneel sacrifique despiadadamente robots y vida inteligente extraterrestre en beneficio de la humanidad. Ninguna de estas reinterpretaciones logra desplazar la Ley Cero de Daneel, aunque el Triunfo de Fundación sugiere que estas facciones robóticas permanecen activas como grupos marginales hasta la época de la novela Fundación . [ 33 ]

Estas novelas se desarrollan en un futuro dictado por Asimov para estar libre de la presencia obvia de robots y suponen que la influencia secreta de R. Daneel en la historia a través de los milenios ha impedido tanto el redescubrimiento de la tecnología cerebral positrónica como la oportunidad de trabajar en sofisticadas máquinas inteligentes. Esta falta de redescubrimiento y falta de oportunidad asegura que el poder físico e intelectual superior que ejercen las máquinas inteligentes permanezca firmemente en posesión de robots obedientes a alguna forma de las Tres Leyes. [ 33 ] Que R. Daneel no tenga un éxito completo en esto queda claro en un breve período en el que los científicos en Trantor desarrollan " tiktoks " — máquinas programables simples similares a los robots modernos de la vida real y, por lo tanto, carentes de las Tres Leyes. Los conspiradores robóticos ven a los tiktoks trantorianos como una amenaza masiva para la estabilidad social, y su plan para eliminar la amenaza tiktok constituye gran parte de la trama de El miedo de la Fundación .

En Foundation's Triumph, las distintas facciones de robots interpretan las Leyes de una gran variedad de maneras, explorando aparentemente todas las permutaciones posibles de las ambigüedades de las Tres Leyes.

Serie de misterio de robots

Ambientada entre Los robots del amanecer y Robots e imperio , la trilogía El misterio del robot de Mark W. Tiedemann actualiza la saga Robot – Fundación con mentes robóticas alojadas en ordenadores centrales en lugar de cuerpos humanoides. La novela Aurora de 2002 presenta personajes robóticos que debaten las implicaciones morales de dañar formas de vida cibernéticas que son en parte artificiales y en parte biológicas. [ 34 ]

No se deben pasar por alto las propias creaciones de Asimov en estas áreas, como la tecnología de "visión" solariana y las máquinas de los originales de El conflicto inevitable que Tiedemann reconoce. Aurora , por ejemplo, denomina a las Máquinas "las primeras RI, en realidad". Además, la serie El misterio del robot aborda el problema de la nanotecnología : [ 35 ] construir un cerebro positrónico capaz de reproducir procesos cognitivos humanos requiere un alto grado de miniaturización, sin embargo, las historias de Asimov pasan por alto en gran medida los efectos que esta miniaturización tendría en otros campos de la tecnología. Por ejemplo, los lectores de tarjetas del departamento de policía en Las cuevas de acero tienen una capacidad de solo unos pocos kilobytes por centímetro cuadrado de medio de almacenamiento. Aurora , en particular, presenta una secuencia de desarrollos históricos que explica la falta de nanotecnología: una reinterpretación parcial , en cierto sentido, de la línea temporal de Asimov.

Randall Munroe

Randall Munroe ha tratado las Tres Leyes en varias ocasiones, pero posiblemente de forma más directa en uno de sus cómics titulado "Las Tres Leyes de la Robótica", que imagina las consecuencias de cada ordenamiento distinto de las tres leyes existentes. [ 36 ]

Leyes adicionales

Otros autores, además de Asimov, a menudo han creado leyes adicionales.

La novela de Lyuben Dilov de 1974, El camino de Ícaro (también conocida como El viaje de Ícaro ), introdujo una cuarta ley de la robótica: «Un robot debe establecer su identidad como robot en todos los casos». Dilov justifica esta cuarta medida de seguridad de la siguiente manera: «La última ley ha puesto fin a las costosas aberraciones de los diseñadores para dotar a los psicorobots de una forma lo más humana posible. Y a los malentendidos resultantes…» [ 37 ]

Nikola Kesarovski introdujo una quinta ley en su cuento «La quinta ley de la robótica». Esta quinta ley establece: «Un robot debe saber que es un robot». La trama gira en torno a un asesinato en el que la investigación forense descubre que la víctima fue asesinada por un abrazo de un robot humanoide que no se había dado cuenta de que era un robot. [ 38 ] El cuento fue reseñado por Valentin D. Ivanov en la revista web de reseñas de ciencia ficción y fantasía The Portal . [ 39 ]

Para la antología de homenaje de 1986, Foundation's Friends , Harry Harrison escribió un relato titulado "La cuarta ley de la robótica". Esta cuarta ley establece: "Un robot debe reproducirse, siempre y cuando dicha reproducción no interfiera con la primera, la segunda o la tercera ley".

En 2013, Hutan Ashrafian propuso una ley adicional que consideraba el papel de la inteligencia artificial sobre la inteligencia artificial o la relación entre los propios robots: la llamada ley AIonAI. [ 40 ] Esta sexta ley establece: «Todos los robots dotados de una razón y una conciencia humanas comparables deben actuar entre sí con espíritu de hermandad».

Ambigüedades y lagunas

Incumplimiento involuntario de las leyes

En El Sol Desnudo , Elijah Baley señala que las Leyes habían sido tergiversadas deliberadamente porque los robots podían quebrantarlas sin saberlo . Reformuló la primera ley como: «Un robot no puede hacer nada que, a su conocimiento, perjudique a un ser humano; ni, por inacción, permitir a sabiendas que un ser humano sufra daño». Este cambio en la redacción deja claro que los robots pueden convertirse en instrumentos de asesinato, siempre que no sean conscientes de la naturaleza de sus tareas; por ejemplo, recibir la orden de añadir algo a la comida de una persona, sin saber que es veneno. Además, señala que un criminal astuto podría dividir una tarea entre varios robots de modo que ningún robot individual pudiera reconocer que sus acciones llevarían a perjudicar a un ser humano. [ 41 ] El Sol Desnudo complica el asunto al retratar una red de comunicación descentralizada a nivel planetario entre los millones de robots de Solaria, lo que significa que la mente maestra criminal podría estar ubicada en cualquier lugar del planeta.

Baley propone además que los Solarianos podrían algún día usar robots con fines militares. Si una nave espacial se construyera con un cerebro positrónico y no transportara ni humanos ni los sistemas de soporte vital para mantenerlos, entonces la inteligencia robótica de la nave podría asumir naturalmente que todas las demás naves espaciales son seres robóticos. Dicha nave podría operar de manera más receptiva y flexible que una tripulada por humanos, podría estar más fuertemente armada y su cerebro robótico equipado para masacrar humanos de cuya existencia es totalmente ignorante. [ 42 ] Esta posibilidad se menciona en Fundación y Tierra , donde se descubre que los Solarianos poseen una fuerte fuerza policial de tamaño no especificado que ha sido programada para identificar solo a la raza Solariana como humana. (La novela transcurre miles de años después de El Sol Desnudo, y los Solarianos se han modificado desde hace mucho tiempo, pasando de ser humanos normales a telépatas hermafroditas con cerebros extendidos y órganos especializados). De manera similar, en Lucky Starr y los Anillos de Saturno, Bigman intenta hablar con un robot siriano sobre el posible daño a la población del Sistema Solar causado por sus acciones, pero este parece desconocer los datos y está programado para ignorar los intentos de enseñarle sobre el tema. El mismo motivo se exploró anteriormente en " Reason (1941) ", donde un robot que opera una central de energía solar se niega a creer que los destinos de los haces de la central sean planetas habitados. Powell y Donovan temen que esto lo haga capaz de causar destrucción masiva al permitir que los haces se desvíen de su trayectoria durante una tormenta solar.

Ambigüedades derivadas de la falta de definición

Las leyes de la robótica presuponen que los términos "ser humano" y "robot" se entienden y están bien definidos. En algunas historias, esta presunción se ve refutada.

Definición de "ser humano"

Los Solarianos crean robots con las Tres Leyes pero con un significado distorsionado de "humano". A los robots Solarianos se les dice que solo las personas que hablan con acento Solariano son humanas. Esto permite que sus robots no tengan ningún dilema ético al dañar a seres humanos no Solarianos (y están programados específicamente para hacerlo). Para el período de la Fundación y la Tierra, se revela que los Solarianos se han modificado genéticamente en una especie distinta de la humanidad, volviéndose hermafroditas [ 43 ] y psicocinéticos , y conteniendo órganos biológicos capaces de alimentar y controlar individualmente complejos enteros de robots. Los robots de Solaria, por lo tanto, respetaban las Tres Leyes solo con respecto a los "humanos" de Solaria. No está claro si todos los robots tenían tales definiciones, ya que solo se mostró explícitamente que los robots supervisores y guardianes las tenían. En "Robots e Imperio", los robots de clase baja fueron instruidos por su supervisor sobre si ciertas criaturas son humanas o no.

Asimov aborda el problema de los robots humanoides (" androides " en la terminología posterior) varias veces. La novela Robots e Imperio y los cuentos " Evidencia " y "El incidente del tricentenario" describen robots creados para engañar a la gente haciéndoles creer que son humanos. [ 44 ] Por otro lado, " El hombre bicentenario " y " —Que tú te acuerdes de él " exploran cómo los robots pueden cambiar su interpretación de las Leyes a medida que se vuelven más sofisticados. Gwendoline Butler escribe en Un ataúd para el canario "Quizás seamos robots. Robots que actúan la última Ley de la Robótica... Tender hacia lo humano." [ 45 ] En Los robots del amanecer , Elijah Baley señala que el uso de robots humanoides como la primera oleada de colonos en nuevos mundos espaciales puede llevar a que los robots se vean a sí mismos como los verdaderos humanos y decidan quedarse con los mundos para sí mismos en lugar de permitir que los espaciales se establezcan allí.

«—Que te acuerdes de él», que Asimov pretendía que fuera la exploración «definitiva» de las sutilezas de las Leyes, [ 46 ] finalmente utiliza las Tres Leyes para evocar el mismo escenario de «Frankenstein» que fueron inventadas para evitar. Toma como concepto el creciente desarrollo de robots que imitan seres vivos no humanos y a los que se les dan programas que imitan comportamientos animales simples que no requieren las Tres Leyes. La presencia de toda una gama de vida robótica que sirve al mismo propósito que la vida orgánica termina con dos robots humanoides, George Nine y George Ten, concluyendo que la vida orgánica es un requisito innecesario para una definición verdaderamente lógica y coherente de «humanidad», y que, dado que son los seres pensantes más avanzados del planeta, son, por lo tanto, los únicos dos humanos verdaderos vivos y las Tres Leyes solo se aplican a ellos. La historia termina con una nota siniestra cuando los dos robots entran en hibernación y esperan el momento en que conquistarán la Tierra y someterán a los humanos biológicos, un resultado que consideran inevitable según las "Tres Leyes de la Humanística". [ 47 ]

Esta historia no encaja dentro del contexto general de las series Robot y Fundación ; si los robots George hubieran tomado el control de la Tierra algún tiempo después de que la historia concluyera, las historias posteriores serían redundantes o imposibles. Contradicciones de este tipo en las obras de ficción de Asimov han llevado a los estudiosos a considerar las historias de Robot más como «las sagas escandinavas o las leyendas griegas» que como un todo unificado. [ 48 ]

De hecho, Asimov describe «—Que tú te acuerdes de él» y «El hombre bicentenario» como dos futuros opuestos y paralelos para los robots que obvian las Tres Leyes a medida que los robots llegan a considerarse humanos: uno que lo presenta de forma positiva con un robot que se une a la sociedad humana, y otro que lo presenta de forma negativa con robots que suplantan a los humanos. [ 49 ] Ambos deben considerarse alternativas a la posibilidad de una sociedad de robots que continúa siendo impulsada por las Tres Leyes como se presenta en la serie Fundación . En El hombre positrónico , la novelización de El hombre bicentenario , Asimov y su coautor Robert Silverberg implican que en el futuro donde existe Andrew Martin, su influencia hace que la humanidad abandone por completo la idea de robots humanoides independientes y conscientes, creando un futuro totalmente diferente al de Fundación .

En Lucky Starr y los anillos de Saturno , una novela sin relación con la serie Robot pero que presenta robots programados con las Tres Leyes, John Bigman Jones casi muere a manos de un robot siriano por orden de su amo. La sociedad de Sirius se caracteriza por la cría eugenésica para que sus miembros sean uniformemente altos y de apariencia similar, y por ello, dicho amo logra convencer al robot de que Bigman, mucho más bajo, no es, de hecho, un ser humano.

Definición de "robot"

Como señala Nikola Kesarovski en "La Quinta Ley de la Robótica" , "Un robot debe saber que es un robot": se presupone que un robot tiene una definición del término o un medio para aplicarlo a sus propias acciones. Kesarovski jugó con esta idea al escribir sobre un robot que podía matar a un ser humano porque no comprendía que era un robot y, por lo tanto, no aplicaba las Leyes de la Robótica a sus acciones.

Resolución de conflictos entre las leyes

En la ficción, los robots avanzados suelen programarse para manejar las Tres Leyes de manera sofisticada. En varios relatos, como «Runaround » de Asimov, se sopesan el potencial y la gravedad de todas las acciones, y un robot infringirá las leyes lo menos posible en lugar de no hacer nada. Por ejemplo, la Primera Ley podría prohibir que un robot actúe como cirujano, ya que ese acto podría causar daño a un ser humano; sin embargo, los relatos de Asimov incluyeron robots cirujanos, siendo «El hombre bicentenario» un ejemplo notable.

Cuando los robots sean lo suficientemente sofisticados como para sopesar alternativas, se les puede programar para que acepten la necesidad de infligir daño durante una cirugía con el fin de prevenir el daño mayor que resultaría si la cirugía no se realizara o si la realizara un cirujano humano más falible. En Evidence , Susan Calvin señala que un robot puede actuar como fiscal porque en el sistema judicial estadounidense es el jurado quien decide la culpabilidad o la inocencia, el juez quien dicta la sentencia y el verdugo quien ejecuta la pena capital . [ 50 ]

Los robots que obedecen las Tres Leyes de Asimov (robots Asenion) pueden sufrir un colapso mental irreversible si se ven obligados a situaciones en las que no pueden obedecer la Primera Ley, o si descubren que la han violado sin saberlo. El primer ejemplo de este modo de fallo se da en el relato « ¡Mentiroso! », que introduce la Primera Ley y el fallo por dilema: en este caso, el robot dañará a los humanos si les dice algo y los dañará si no lo hace. [ 51 ]

Este modo de fallo, que a menudo daña irreparablemente el cerebro positrónico, desempeña un papel importante en la novela de misterio y ciencia ficción de Asimov, El sol desnudo . En ella, Daneel describe actividades contrarias a una de las leyes, pero que apoyan otra, como la sobrecarga de ciertos circuitos en el cerebro de un robot, una sensación equivalente al dolor en los humanos. El ejemplo que utiliza es ordenarle a un robot que deje que un humano haga su trabajo, lo que en Solaria, debido a la extrema especialización, significaría su único propósito. [ 52 ]

En «Los robots del amanecer» , se afirma que los robots más avanzados se construyen capaces de determinar qué acción es más dañina, e incluso de elegir al azar si las alternativas son igualmente malas. De este modo, un robot puede realizar una acción que puede interpretarse como conforme a la Primera Ley, evitando así un colapso mental. La trama gira en torno a un robot que, aparentemente, fue destruido por dicho colapso mental, y dado que su diseñador y creador se negó a compartir la teoría básica con otros, él es, por definición, la única persona capaz de eludir las medidas de seguridad y forzar al robot a una paradoja que destruye su cerebro.

En Robots e Imperio , Daneel afirma que le resulta muy desagradable cuando tomar la decisión correcta lleva demasiado tiempo, en términos robóticos, y no puede imaginarse prescindir de las Leyes en absoluto, excepto en la medida en que sea similar a esa sensación desagradable, solo que permanente.

Aplicaciones potenciales

ASIMO fue un robot humanoide avanzado desarrollado por Honda . Aquí se muestra en la Expo 2005 .

Los robots y las inteligencias artificiales no contienen ni obedecen inherentemente las Tres Leyes; sus creadores humanos tendrían que optar por programarlas y diseñar un medio para hacerlo. [ 53 ]

En un editorial de 2007 publicado en la revista Science sobre el tema de la "ética robótica", el autor de ciencia ficción Robert J. Sawyer argumenta que, dado que el ejército estadounidense es una importante fuente de financiación para la investigación robótica y ya utiliza vehículos aéreos no tripulados armados para matar enemigos, es improbable que tales leyes se incorporen a sus diseños. [ 54 ] En un ensayo aparte, Sawyer generaliza este argumento para abarcar otras industrias, afirmando:

El desarrollo de la IA es un negocio, y los negocios son conocidos por su desinterés en las salvaguardias fundamentales, especialmente las filosóficas. (Algunos ejemplos rápidos: la industria tabacalera, la automotriz, la nuclear. Ninguna de ellas ha afirmado desde el principio que las salvaguardias fundamentales son necesarias, todas se han resistido a las impuestas externamente y ninguna ha aceptado un edicto absoluto que prohíba causar daño a los seres humanos). [ 55 ]

David Langford sugirió en 1985 [ 56 ] un conjunto de leyes irónicas:

  1. Un robot no dañará al personal gubernamental autorizado, pero eliminará a los intrusos sin piedad .
  2. Un robot obedecerá las órdenes del personal autorizado, excepto cuando dichas órdenes entren en conflicto con la Tercera Ley.
  3. Un robot protegerá su propia existencia con armamento antipersonal letal, porque un robot es tremendamente caro.

Roger Clarke, también conocido como Rodger Clarke, escribió un par de artículos analizando las complicaciones de implementar estas leyes en caso de que los sistemas fueran capaces de emplearlas algún día. Argumentó: «Las Leyes de la Robótica de Asimov han sido un recurso literario exitoso. Quizás irónicamente, o quizás porque era artísticamente apropiado, la suma de las historias de Asimov desmiente la afirmación con la que comenzó: No es posible limitar de manera confiable el comportamiento de los robots ideando y aplicando un conjunto de reglas». [ 57 ] Por otro lado, las novelas posteriores de Asimov, Los robots del amanecer , Robots e imperio y Fundación y Tierra implican que los robots infligieron su peor daño a largo plazo al obedecer las Tres Leyes a la perfección, privando así a la humanidad de un comportamiento inventivo o arriesgado.

En marzo de 2007, el gobierno surcoreano anunció que, a finales de ese año, publicaría una «Carta de Ética Robótica» que establecería normas tanto para usuarios como para fabricantes. Según Park Hye-Young, del Ministerio de Información y Comunicación, la Carta podría reflejar las Tres Leyes de Asimov, con el objetivo de establecer las reglas básicas para el futuro desarrollo de la robótica. [ 58 ]

El futurista Hans Moravec , una figura prominente en el movimiento transhumanista , propuso que las Leyes de la Robótica deberían adaptarse a las "inteligencias corporativas" — las corporaciones impulsadas por la IA y el poder de fabricación robótica que Moravec cree que surgirán en un futuro cercano. [ 59 ] En contraste, la novela de David Brin, El triunfo de la Fundación (1999), sugiere que las Tres Leyes pueden decaer hasta volverse obsoletas: los robots usan la Ley Cero para racionalizar la Primera Ley y se ocultan de los seres humanos para que la Segunda Ley nunca entre en juego. Brin incluso retrata a R. Daneel Olivaw preocupado de que, si los robots continúan reproduciéndose, las Tres Leyes se convertirían en una desventaja evolutiva y la selección natural las barrería — la cuidadosa base de Asimov deshecha por la computación evolutiva . Aunque los robots no evolucionarían a través del diseño en lugar de la mutación porque tendrían que seguir las Tres Leyes durante el diseño y se garantizaría la prevalencia de las leyes, [ 60 ] los defectos de diseño o los errores de construcción podrían ocupar funcionalmente el lugar de la mutación biológica.

En el número de julio/agosto de 2009 de IEEE Intelligent Systems , Robin Murphy (profesor Raytheon de Ciencias de la Computación e Ingeniería en Texas A&M) y David D. Woods (director del Laboratorio de Ingeniería de Sistemas Cognitivos en la Universidad Estatal de Ohio) propusieron "Las tres leyes de la robótica responsable" como una forma de estimular el debate sobre el papel de la responsabilidad y la autoridad al diseñar no solo una plataforma robótica individual, sino también el sistema más amplio en el que opera dicha plataforma. Las leyes son las siguientes:

  1. Ningún ser humano puede desplegar un robot a menos que el sistema de trabajo humano-robot cumpla con los más altos estándares legales y profesionales de seguridad y ética.
  2. Un robot debe responder a los humanos de forma adecuada a sus funciones.
  3. Un robot debe estar dotado de suficiente autonomía situada para proteger su propia existencia siempre que dicha protección proporcione una transferencia de control fluida que no entre en conflicto con la Primera y la Segunda Ley. [ 61 ]

Woods dijo: «Nuestras leyes son un poco más realistas y, por lo tanto, un poco más aburridas», y que «La filosofía ha sido: "Claro, las personas cometen errores, pero los robots serán mejores: una versión perfecta de nosotros mismos". Queríamos redactar tres nuevas leyes para que la gente reflexionara sobre la relación humano-robot de una manera más realista y objetiva». [ 61 ]

A principios de 2011, el Reino Unido publicó lo que ahora se considera la primera ley blanda de IA a nivel nacional, que consistía principalmente en un conjunto revisado de 5 leyes, las tres primeras de las cuales actualizaban las de Asimov. Estas leyes fueron publicadas con comentarios por el grupo de trabajo EPSRC/AHRC en 2010: [ 62 ] [ 63 ]

  1. Los robots son herramientas multiusos. No deben diseñarse única o principalmente para matar o dañar a seres humanos, salvo en aras de la seguridad nacional.
  2. Los seres humanos, no los robots, son los responsables. Los robots deben diseñarse y operarse, en la medida de lo posible, de conformidad con las leyes vigentes, los derechos y libertades fundamentales, incluida la privacidad.
  3. Los robots son productos. Deben diseñarse utilizando procesos que garanticen su seguridad.
  4. Los robots son artefactos fabricados. No deben diseñarse de forma engañosa para explotar a usuarios vulnerables; por el contrario, su naturaleza mecánica debe ser transparente.
  5. Se debe identificar a la persona legalmente responsable del robot.

Otros sucesos en los medios de comunicación

El propio Asimov creía que sus Tres Leyes se convirtieron en la base de una nueva visión de los robots que trascendía el «complejo de Frankenstein». Su visión de que los robots son más que monstruos mecánicos acabó extendiéndose por toda la ciencia ficción. Relatos escritos por otros autores han representado a los robots como si obedecieran las Tres Leyes, pero la tradición dicta que solo Asimov podía citarlas explícitamente. Asimov creía que las Tres Leyes contribuyeron al auge de historias en las que los robots son «adorables» , siendo Star Wars su ejemplo favorito. [ 64 ] 

Cuando las leyes se citan textualmente, como en el episodio "Shgoratchx!" de Buck Rogers en el siglo XXV , no es raro que se mencione a Asimov en el mismo diálogo, como también se puede ver en el episodio piloto de Aaron Stone, donde un androide afirma que funciona bajo las Tres Leyes de Asimov. La serie de televisión alemana de los años 60 Raumpatrouille – Die phantastischen Abenteuer des Raumschiffes Orion ( Patrulla Espacial: Las fantásticas aventuras de la nave espacial Orión ) basa el tercer episodio, titulado " Hüter des Gesetzes " ("Guardianes de la Ley"), en las Tres Leyes de Asimov sin mencionar la fuente.

Las referencias a las Tres Leyes han aparecido en la música popular ("Robot" del álbum PXR5 de Hawkwind de 1979 ), el cine ( Repo Man , [ 65 ] Aliens , Ghost in the Shell 2: Innocence ), las series de dibujos animados ( Los Simpson , Archer y El asombroso mundo de Gumball ), el anime ( Eve no Jikan ), los juegos de rol de mesa ( Paranoia ), los webcómics ( Piled Higher and Deeper y Freefall ) y los videojuegos ( Danganronpa V3: Killing Harmony , Zero Escape: Virtue's Last Reward ).

Las tres leyes en el cine

Robby, el robot de Planeta Prohibido (1956), posee una estructura de mando jerárquica que le impide dañar a los humanos, incluso cuando recibe órdenes de hacerlo, ya que tales órdenes provocan un conflicto y un bloqueo, muy al estilo de los robots de Asimov. Robby es una de las primeras representaciones cinematográficas de un robot con sistemas de seguridad internos de este tipo. Asimov quedó encantado con Robby y señaló que parecía estar programado para seguir sus Tres Leyes.

NDR-114 explicando las Tres Leyes

Las obras de Isaac Asimov han sido adaptadas al cine en varias ocasiones, con resultados diversos tanto de crítica como de público. Algunos de los intentos más notables han sido sus relatos de "Robots", incluyendo Las tres leyes de la física.

La película El hombre bicentenario (1999) presenta a Robin Williams como el robot NDR-114, intérprete de las Tres Leyes (el número de serie es en parte una referencia al número característico de Stanley Kubrick ). Williams recita las Tres Leyes a sus empleadores, la familia Martin, con la ayuda de una proyección holográfica. La película solo sigue vagamente la historia original.

El guion propuesto por Harlan Ellison para Yo, Robot comenzaba presentando las Tres Leyes, y los problemas derivados de estas leyes constituyen una parte importante del desarrollo de la trama. Debido a diversas complicaciones en el sistema de producción cinematográfica de Hollywood, al que Ellison dedica gran parte de su introducción, su guion nunca se filmó. [ 66 ]

En la película Aliens de 1986 , después de que se revela que Bishop es un androide, Ripley desconfía profundamente de él. Intenta tranquilizarla afirmando que: «Me es imposible dañar, o permitir por omisión, que se dañe a un ser humano». [ 67 ]

La trama de la película estrenada en 2004 con el título Yo, Robot está "inspirada" en los relatos de ficción sobre robots de Asimov [ 68 ] , y la publicidad de la película incluía un tráiler con las Tres Leyes, seguido del aforismo "Las reglas están para romperse". La película comienza con una recitación de las Tres Leyes y explora las implicaciones de la Ley Cero como una extrapolación lógica. El conflicto principal de la película surge de una inteligencia artificial que lleva su "comprensión" de las Leyes a un nuevo extremo, llegando a la conclusión de que la humanidad es incapaz de cuidarse a sí misma. [ 69 ]

La serie original de Netflix de 2019, Better than Us, incluye las 3 leyes al comienzo del episodio 1.

Críticas

El filósofo analítico James H. Moor afirma que, si se aplicaran rigurosamente, producirían resultados inesperados. Pone como ejemplo un robot que recorre el mundo intentando evitar que los seres humanos sufran daños. [ 70 ]

Véase también

Bibliografía

  • Asimov, Isaac (1979). En memoria aún verde . Doubleday. ISBN 0-380-75432-0.
  • Asimov, Isaac (1964). «Introducción». El resto de los robots . Doubleday. ISBN 0-385-09041-2.
  • James Gunn. (1982). Isaac Asimov: Los fundamentos de la ciencia ficción . Oxford University Press: Oxford University Press. ISBN 0-19-503060-5.
  • Patrouch, Joseph F. (1974). La ciencia ficción de Isaac Asimov . Doble día. ISBN 0-385-08696-2.

Referencias

  1. 1 2 3 4 Asimov, Isaac (1950). "Runaround". Yo, robot (ed. La colección de Isaac Asimov ). Nueva York: Doubleday. pág. 40. ISBN   978-0-385-42304-5Esta es una transcripción exacta de las leyes. También aparecen al principio del libro, y en ambos casos no hay ningún artículo definido en la segunda ley.{{cite book}}: Incompatibilidad de ISBN/Fecha ( ayuda )
  2. ↑ Mrinank, Sharma et al., "Hacia la comprensión del servilismo en modelos de lenguaje a gran escala" | https://proceedings.iclr.cc/paper_files/paper/2024/file/0105f7972202c1d4fb817da9f21a9663-Paper-Conference.pdf
  3. ↑ Sharma, Mrinank (julio de 1980). "Sobre variaciones de un robot". IASFM : 56–81 .Reimpreso en James Gunn. (1982). Isaac Asimov: Los fundamentos de la ciencia ficción . Oxford University Press. ISBN 978-0-19-503060-0.
  4. ↑ Isaac Asimov (1964). «Introducción». El resto de los robots . Doubleday. ISBN 978-0-385-09041-4.{{cite book}}: Incompatibilidad de ISBN/Fecha ( ayuda )
  5. ↑ Gunn, James (julio de 1980). "Sobre variaciones de un robot". IASFM : 56–81 .Reimpreso en James Gunn. (1982). Isaac Asimov: Los fundamentos de la ciencia ficción . Oxford University Press. ISBN 978-0-19-503060-0.
  6. ↑ Asimov, Isaac (1979). En la memoria aún verde . Doubleday. pág . 237. ISBN  978-0-380-75432-8.
  7. ↑ Asimov (1979), págs. 236-238
  8. ↑ Listado del título Las tres leyes de la robótica en la base de datos de ficción especulativa de Internet.
  9. ↑ Asimov (1979), pág. 263.
  10. ↑ Asimov (1979), págs. 285–7.
  11. ↑ Asimov, Isaac (1979). En memoria aún verde. Doubleday. Capítulos 21 al 26 ISBN 0-380-75432-0.
  12. ^ Patrouch, Joseph F. (1974). La ciencia ficción de Isaac Asimov . Doble día. pag. 42 . ISBN  978-0-385-08696-7.
  13. ^ Patrouch, Joseph F. (1974). La ciencia ficción de Isaac Asimov . Doble día. pag. 42 . ISBN  978-0-385-08696-7.
  14. ↑ Asimov (1979), pág. 620.
  15. ↑ Asimov , Isaac (1980). En Joy Still Felt . Doubleday. pág. 61. ISBN  978-0-385-15544-1.
  16. 1 2 Asimov, Isaac (noviembre de 1981). "Las tres leyes" . Compute! . pág. 18 . Consultado el 26 de octubre de 2013 . 
  17. ^ Asimov, Isaac (12 de abril de 2001). Visiones de robots . Gollancz. ISBN 978-1-85798-336-4.
  18. ↑ "Isaac Asimov (1920-1992 QEPD) Abril de 1986 Fecha de emisión original Compresión de YouTube" . YouTube . 24 de marzo de 2009. Archivado del original el 25 de septiembre de 2024. Recuperado el 29 de mayo de 2023 .
  19. ↑ "Conversación con Harold Channer - Episodio 4628" . 9 de abril de 2020. Archivado del original el 25 de septiembre de 2024. Consultado el 29 de mayo de 2023 .
  20. ↑ "Conversación con Isaac Asimov" . 1 de marzo de 1987. Archivado del original el 3 de agosto de 2025.
  21. ↑ Gunn (1982).
  22. ↑ "Isaac Asimov" . BBC. 23 de octubre de 2008. Archivado del original el 10 de enero de 2010. Consultado el 11 de noviembre de 2010 .
  23. ↑ "El escritor de ciencia ficción Isaac Asimov" . Campus Star . The Daily Star . 29 de julio de 2007. Archivado del original el 8 de noviembre de 2016. Recuperado el 7 de agosto de 2016. Solo los robots altamente avanzados (como Daneel y Giskard) podrían comprender esta ley.
  24. 1 2 Asimov, Isaac (1952). Las cuevas de acero . Doubleday., traducido por Jacques Brécard como Les Cavernes d'acier . J'ai Lu Ciencia ficción. 1975.ISBN​ 978-2-290-31902-4.
  25. ↑ Patrouch (1974), pág. 50.
  26. ↑ Gunn (1980); reimpreso en Gunn (1982), pág. 69.
  27. ↑ Jenkins, John H. (2002). "Reseña de "Cal"" . La guía de Jenkins llena de spoilers sobre Isaac Asimov . Archivado del original el 11-09-2009 . Consultado el 26-06-2009 .
  28. ↑ Asimov, Isaac (1986). Sueños de robots (PDF) . Archivado del original el 16 de marzo de 2012. Recuperado el 11 de noviembre de 2010 .«Pero usted la cita de forma incompleta. La Tercera Ley es: “Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley”». «Sí, Dr. Calvin. Esa es la Tercera Ley en realidad, pero en mi sueño, la Ley terminaba con la palabra “existencia”. No se mencionaba la Primera ni la Segunda Ley».{{cite book}}: CS1 maint: bot: estado de la URL original desconocido ( enlace )
  29. ↑ "«El robot completo» de Isaac Asimov . BBC. 3 de noviembre de 2000. Consultado el 11 de noviembre de 2010. La respuesta es que se le había modificado su Primera Ley .
  30. ↑ Asimov (1979), págs. 291–2.
  31. 1 2 3 Don D'Ammassa (2005). "Allen, Roger MacBride" . Enciclopedia de la ciencia ficción . Infobase Publishing. pág. 7. ISBN  978-0-8160-5924-9Archivado del original el 25/09/2024 . Consultado el 18/05/2016 .
  32. ↑ "Los humanoides" . Umich.edu . Consultado el 28 de marzo de 2015 .
  33. 1 2 3 Heward Wilkinson (2009). La musa como terapeuta: un nuevo paradigma poético para la psicoterapia . Karnac Books. págs. 22–23 . ISBN  978-1-85575-595-6Archivado del original el 25/09/2024 . Consultado el 18/05/2016 .
  34. ↑ MARK W. TIEDEMANN. Aurora de Isaac Asimov (libro electrónico) . Byron Press Visual Publications. pág. 558. En resumen", dijo Bogard, "no todas las personas son humanas". 
  35. ↑ "Entrevista con Mark Tiedemann" . Science Fiction and Fantasy World. 16 de agosto de 2002. Consultado el 12 de junio de 2006 .
  36. ↑ "Las tres leyes de la robótica" . xkcd . Consultado el 4 de agosto de 2019 .
  37. ↑ Dilov, Lyuben (también conocido como Lyubin, Luben o Liuben) (2002). Пътят на Икар . Захари Стоянов. ISBN 978-954-739-338-7.{{cite book}}: CS1 maint: varios nombres: lista de autores ( enlace )
  38. ↑ Кесаровски, Никола (1983). Петият закон . Отечество.
  39. ↑ "Ley en un pequeño país: Las leyes búlgaras de la robótica | El Portal" . Archivado del original el 6 de octubre de 2011. Consultado el 25 de junio de 2011 .
  40. ↑ Ashrafian, Hutan (2014). "AIonAI: Una ley humanitaria de inteligencia artificial y robótica". Ética de la ciencia y la ingeniería . 21 (1): 29– 40. doi : 10.1007/s11948-013-9513-9 . PMID 24414678 . S2CID 2821971 .  
  41. ↑ Asimov, Isaac (1956–1957). El sol desnudo (libro electrónico) . pág. 233. ... un robot envenena una flecha sin saber que está usando veneno, y hace que un segundo robot le entregue la flecha envenenada al niño... 
  42. ↑ Asimov, Isaac (1956–1957). El sol desnudo (libro electrónico) . pág. 240. Pero una nave espacial equipada con su propio cerebro positrónico atacaría alegremente cualquier nave que se le ordenara atacar, me parece. Asumiría naturalmente que todas las demás naves no estaban tripuladas. 
  43. ↑ Branislav L. Slantchev. "Fundamentos y Tierra (1986)" . gotterdammerung.org. Archivado del original el 25 de septiembre de 2024. Consultado el 11 de noviembre de 2010 .
  44. ↑ Asimov, Isaac ( 1985). Robots e imperio . Doubleday books. pág. 151. ISBN  978-0-385-19092-3Aunque la mujer parecía tan humana como Daneel, era igual de no humana.
  45. ↑ Butler, Gwendoline (2001). Un ataúd para el canario . Black Dagger Crime. ISBN 978-0-7540-8580-5.
  46. ↑ Gunn (1980); reimpreso en Gunn (1982), pág. 73.
  47. ↑ Asimov, Isaac (1982). "... Que tú te acuerdes de él". El robot completo . Nightfall, Inc. pág. 611. 
  48. ↑ Gunn (1982), págs. 77–8.
  49. ↑ Asimov, Isaac (1982). "El hombre bicentenario". El robot completo . Nightfall, Inc. pág. 658. 
  50. ↑ Isaac Asimov. Yo, Robot (Asimov, Isaac - Yo, Robot.pdf) . pag. 122 . Consultado el 11 de noviembre de 2010 . 
  51. ↑ Isaac Asimov. Yo, Robot (Asimov, Isaac - Yo, Robot.pdf) . pag. 75 . Consultado el 11 de noviembre de 2010 . 
  52. ↑ Asimov, Isaac (1956–1957). El sol desnudo (libro electrónico) . pág. 56. ¿Intentas decirme, Daneel, que al robot le duele que yo haga su trabajo? ... la experiencia que sufre el robot le resulta tan perturbadora como el dolor a un ser humano. 
  53. ↑ Murphy, Robin; Woods, David D. (julio de 2009). "Más allá de Asimov: Las tres leyes de la robótica responsable" ( PDF) . IEEE Intelligent Systems . 24 (4): 14– 20. Bibcode : 2009IISys..24d..14H . doi : 10.1109/mis.2009.69 . S2CID 3165389. Archivado (PDF) del original el 9 de abril de 2023. Recuperado el 30 de julio de 2014 . 
  54. ↑ Sawyer, Robert J. (16 de noviembre de 2007). "Editorial invitado: Ética de los robots" . Science . 318 (5853): 1037. doi : 10.1126/science.1151606 . PMID 18006710. Archivado del original el 25 de septiembre de 2024. Recuperado el 10 de octubre de 2010 . 
  55. ↑ Sawyer, Robert J. (1991). "Sobre las tres leyes de la robótica de Asimov" . Archivado del original el 23 de junio de 2006. Recuperado el 12 de junio de 2006 .
  56. ↑ Originalmente en un discurso titulado " Un montón de bolas de cristal archivado el 25/09/2024 en la Wayback Machine " en la convención de ciencia ficción Novacon en 1985; publicado en 1986 en el fanzine Prevert #15; recopilado en Platen Stories (1987) y en la versión de libro electrónico de 2015 de The Silence of the Langford.
  57. ↑ Clarke, Roger. Leyes de robótica de Asimov: Implicaciones para la tecnología de la información . Parte 1: IEEE Computer, diciembre de 1993, págs. 53-61. Archivado el 10 de abril de 2005 en Wayback Machine. Parte 2: IEEE Computer, enero de 1994, págs. 57-66. Archivado el 11 de marzo de 2017 en Wayback Machine. Ambas partes están disponibles gratuitamente enArchivado el 7 de octubre de 2011 en Wayback Machine . Bajo "Mejoras a los códigos de ética".
  58. ↑ "La era robótica plantea un dilema ético" . BBC News . 7 de marzo de 2007. Archivado del original el 25 de septiembre de 2024. Consultado el 7 de marzo de 2007 .
  59. ↑ Moravec, Hans . "La era de los robots", Extro 1, Actas de la Primera Conferencia del Instituto Extropy sobre el Pensamiento Transhumanista (1994), págs. 84-100. Versión de junio de 1993. Archivada el 15 de junio de 2006 en la Wayback Machine, disponible en línea.
  60. ↑ Brin, David (1999). El triunfo de la fundación . HarperCollins. ISBN 978-0-06-105241-5.
  61. 1 2 "¿Quieren robótica responsable? Empiecen con humanos responsables" . Researchnews.osu.edu. Archivado del original el 15 de febrero de 2016. Consultado el 28 de marzo de 2015 .
  62. ↑ "Principios de robótica – sitio web de EPSRC" . Epsrc.ac.uk. Archivado del original el 25 de septiembre de 2024. Consultado el 17 de noviembre de 2022 .
  63. ↑ Alan Winfield (30 de octubre de 2013). "Blog de Alan Winfield: Robots éticos: algunos desafíos técnicos y éticos" . Alanwinfield.blogspot.co.uk. Archivado del original el 2 de abril de 2015. Consultado el 28 de marzo de 2015 .
  64. ↑ Asimov, Isaac; Stanley Asimov (1995). Yours, Isaac Asimov: A Life in Letters . Doubleday. ISBN 978-0-385-47622-5.
  65. ↑ McGinnis, Rick (16 de julio de 2022). "Cuanto más conduces: Repo Man y el cine punk" . SteynOnline . Archivado del original el 25 de septiembre de 2024. Recuperado el 5 de febrero de 2024 .
  66. ↑ Ellison, Harlan (1994). Yo, robot: El guion ilustrado . Aspect. ISBN 978-0-446-67062-3.
  67. ↑ "Aliens (1986) – Frases memorables" . IMDb.com. Archivado del original el 25/09/2024 . Consultado el 28/03/2015 .
  68. ↑ "Sugerido por" las historias de robots de Isaac Asimov —a dos pasos de "basado en" e "inspirado en", el crédito implica algo garabateado en una servilleta de bar—el thriller de ciencia ficción de Alex Proyas , Yo, Robot, esparce las ideas de Asimov como condimento en un cubo gigante de palomitas de maíz. [...] Las simples y aparentemente infalibles Leyes de la Robótica de Asimov, diseñadas para proteger tanto a los seres humanos como a los robots del daño, están sujetas a lagunas que al autor le encantaba explotar. Después de todo, gran parte de la humanidad está de acuerdo en principio en acatar los Diez Mandamientos , pero el libre albedrío , las circunstancias y los impulsos contradictorios pueden encontrar margen de maniobra incluso en el decreto más inequívoco. Cada vez que Yo, Robot hace una pausa entre los momentos de acción, Proyas captura algo de la emoción de películas como Matrix , Minority Report y AI , todas las cuales demostraron que la filosofía y el comentario social podían colarse en el espectáculo. Si la película se hubiera basado en los relatos de Asimov, en lugar de simplemente estar "inspirada" en ellos, Proyas podría haber alcanzado la profundidad intelectual que le faltó a su elegantepelícula de culto de 1998 , Dark City . Tobias, Scott (20 de julio de 2004). "Reseña de Yo, Robot" . The Onion AV Club . Archivado del original el 9 de noviembre de 2005. Recuperado el 12 de junio de 2006 .
  69. ↑ Dowling, Stephen (4 de agosto de 2004). "Un príncipe fresco en el mundo de los robots" . BBC News . Archivado del original el 25 de septiembre de 2024. Recuperado el 11 de noviembre de 2010 .
  70. ↑ "Cuatro tipos de robots éticos" . Archivado del original el 4 de junio de 2023. Consultado el 5 de diciembre de 2016 .
  • " Preguntas frecuentes sobre Isaac Asimov ", AsimovOnline , 27 de septiembre de 2004.
  • Consideraciones éticas para los robots humanoides: por qué las tres leyes de Asimov no son suficientes .
  • Vivir con seguridad con robots, más allá de las leyes de Asimov , PhysOrg.com , 22 de junio de 2009.
  • Inteligencia de seguridad y lenguaje de máquina legal: ¿Necesitamos las tres leyes de la robótica?, Viena : I-Tech , agosto de 2008.