Leyes de la Robótica de Asimov: Historia, aplicaciones y modificaciones

¿Cuáles son las tres leyes de la robótica de Asimov?

Isaac Asimov fue un prolífico escritor de ciencia ficción del siglo XX con formación en química y bioquímica. Recibió su doctorado. en 1939, se convirtió en profesor titular en la Universidad de Boston en 1979 y falleció en 1992. Asimov escribió más de 400 libros durante su vida y fue mejor conocido por su serie de libros de ciencia ficción llamada The Foundation Trilogy y por establecer las Tres Leyes de la Robótica.

Las Tres Leyes de la Robótica de Asimov inicialmente se denominaron las tres reglas de la robótica. El propósito de estas reglas o leyes era evitar que los robots dañaran a los seres humanos, proteger a los seres humanos y ayudar a los robots a sopesar el riesgo de hacerse daño a sí mismos mientras desempeñaban sus funciones. Las tres Reglas de la Robótica, o las Tres Leyes de la Robótica, tal como aparecen en la antología de ciencia ficción Yo, Robot (Asimov, 1950), son las siguientes:

1. “Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño”.
2. “Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley”.
3. “Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley”.

Historia de las leyes de la robótica de Asimov

Las Tres Leyes de la Robótica aparecieron por primera vez en el cuento de Asimov de 1942 Runaround, que más tarde se incluyó en una antología de historias de ciencia ficción llamada Yo, Robot. En Runaround, un personaje humano llamado Powell explica que “las tres reglas fundamentales de la robótica” son algoritmos matemáticos basados ​​en reglas que están programados de fábrica en los sistemas cerebrales de inteligencia artificial (IA) de cada robot y son inmutables., y no se puede desobedecer. Cada regla tiene un peso diferente, siendo la primera regla la más importante y la última la menos importante.

En la historia, un robot llamado Speedy se confunde porque no puede llevar a cabo sus tareas debido a un conflicto entre la Regla 2 y la Regla 3. Cada vez que Speedy se acerca al área de trabajo, su IA decide que el riesgo para su seguridad personal es demasiado alto. alto, lo que hace que el robot retroceda. Desafortunadamente, el ser humano que le dio a Speedy la orden de trabajar no enfatizó que se podían perder vidas humanas si el robot no cumplía con sus tareas, por lo que el robot no sabía que la Regla 1 estaba involucrada. Sin embargo, una vez que Speedy es informado de que hay vidas humanas en riesgo, el robot completa sus tareas sin dificultad ni vacilación.

Uso de las leyes de la robótica de Asimov

Desde sus inicios en 1942, las Tres Leyes de la Robótica de Asimov se han convertido en un tema común en la ciencia ficción popular. Varios autores, incluidos Terry Pratchett, John Sladek, Harry Harrison y Robert J. Sawyer, han escrito historias u otras publicaciones que mencionan las tres leyes de Asimov o variaciones de ellas. En televisión, la serie de televisión británica de ciencia ficción Doctor Who y la película de ciencia ficción de 1999 Bicentennial Man también analizan las tres leyes de Asimov, mientras que en la película de 2014 Automata, los robots están programados para seguir reglas preprogramadas similares a las leyes de Asimov. Incluso los medios populares que no mencionan las tres leyes de Asimov han sido influenciados por sus ideas, y a menudo exploran temas que se centran en cómo los robots, computadoras y androides con inteligencia artificial deberían tener un sistema ético fuerte y preprogramado y no deberían poder dañar a los humanos..

Las discusiones sobre la seguridad de los robots y la idea de un sistema de ética preprogramado, o ” Ética del Robot “, también han influido en el desarrollo de la inteligencia artificial. Las aplicaciones en la vida real de las Tres Leyes de la Robótica de Asimov se han discutido en institutos de robótica y en círculos científicos y médicos involucrados con el desarrollo de la IA, incluida la revista académica revisada por pares IEEE Intelligent Systems. La ética de los robots también se ha debatido en otros tipos de revistas científicas importantes, incluida Science.

Aplicaciones de las leyes de la robótica

Las Leyes de la Robótica de Asimov han inspirado a científicos, ingenieros y programadores informáticos a desarrollar salvaguardias para evitar que los robots y la IA dañen a los seres humanos. Las posibles aplicaciones y dificultades de las tres leyes de la robótica, como la información sobre sus aplicaciones en el diseño de robots y cómo se podría aplicar la ética de los robots a futuras tecnologías de IA y robótica, incluyen:

• Las medidas de seguridad para evitar que los robots dañen a los humanos son programables hasta cierto punto, por ejemplo, un apagado automático que evita que un robot dañe a un ser humano. Las sierras de mesa, por ejemplo, han sido programadas para apagarse instantáneamente cuando detectan una corriente eléctrica, lo que indica que una parte del cuerpo ha entrado en contacto con la hoja.
• Sin embargo, programar un robot para que tome decisiones que se basen en el razonamiento moral es muy problemático porque la IA carece de verdadera agencia, cognición y capacidad para comprender completamente el contexto. La aplicación de las leyes de la robótica a situaciones que involucran la vida y la seguridad humanas puede requerir supervisión activa y aportes de programadores humanos remotos.
• El concepto de no “dañar” a los humanos es amplio y está muy mal definido. Cualquier aplicación de “no hacer daño” de la primera regla de Asimov en tecnologías futuras debe aclararse sin ambigüedades. En primer lugar, los robots con IA deben poder reconocer e identificar a un ser humano sin errores ni dudas. En segundo lugar, la IA debe comprender plenamente qué constituye “daño” y cómo debe responder. Además, el “daño” puede ser físico o no físico, como un chatbot de IA que causa daño no físico al difamar a un individuo cuando informa información falsa como “hecho”. Además, una programación estricta para la primera ley de Asimov puede cascada hacia la catástrofe. Por ejemplo, si dos automóviles autónomos se dirigen en curso de colisión entre sí, la incapacidad de cualquiera de las IA para desviarse de la carretera a riesgo de “dañar” a sus pasajeros causaría que ambos automóviles colisionaran y probablemente mataran al conductor. pasajeros en ambos vagones.
• Los robots con IA pueden permitir que los seres humanos controlen sus acciones (como un vehículo remoto o un dron), pero requerirían salvaguardias que les impidan realizar acciones que puedan causar daño, como un límite de velocidad o un apagado automático, de acuerdo con la segunda ley de Asimov.
• La aplicación de la tercera ley de la robótica de Asimov requiere una programación específica que obligue al robot a protegerse de daños mientras realiza sus tareas. La aplicación de la tercera ley existe en algunos robots modernos; por ejemplo, un Roomba puede detectar y evitar escaleras con sensores.

Alteraciones de las Tres Leyes de la Robótica

Más tarde, Asimov añadió una cuarta ley, conocida como la Ley Cero en su novela, Robots and Empire, que establece que “un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daño” (Asimov, 1985).. Desafortunadamente, la aplicación de las leyes de Asimov en la robótica y la IA modernas es en gran medida poco realista y poco práctica porque los robots requerirían sensibilidad para tomar decisiones lógicas basadas en el contexto. E incluso con sensibilidad, seguiría habiendo un número infinito de escenarios morales hipotéticos relacionados con las tres leyes que se esperaría que manejaran los robots.

En otros casos, los robots desarrollados por agencias gubernamentales, como los drones armados con inteligencia artificial, están diseñados con la intención específica de causar daño, lo que rompe la primera regla de Asimov. Las modificaciones y revisiones de las tres leyes de la robótica pueden superar los obstáculos actuales en la aplicación de las leyes de Asimov. Por ejemplo:

• Los científicos han sugerido cambiar la redacción de la primera ley de no causar “daño” a exigir que un robot cumpla con los más altos estándares legales, éticos, profesionales y de seguridad.
• Los cambios sugeridos a la redacción de la segunda ley reemplazan el cumplimiento de órdenes por el desempeño de los deberes apropiados.
• Los cambios sugeridos a la tercera ley incluyen reemplazar el mandato de “proteger su propia existencia” por el de tener autonomía para protegerse a sí mismo.

Resumen de la lección

Las Tres Leyes de la Robótica son un conjunto de reglas éticas ficticias para robots creadas por el escritor de ciencia ficción del siglo XX Isaac Asimov. Las leyes aparecieron inicialmente en el cuento de Asimov de 1942, Runaround, como las “tres reglas fundamentales de la robótica “. La regla 1 dice que los robots no pueden dañar a los humanos ni por acción ni por inacción. La regla 2 dice que los robots deben obedecer a los humanos a menos que una orden entre en conflicto con la regla 1, que es la regla más importante. La regla 3 establece que un robot también debe protegerse de cualquier daño a menos que hacerlo entre en conflicto con las reglas 1 o 2. En 1985, Asimov añadió una cuarta ley, llamada Ley Cero, que dice que los robots no pueden dañar a la humanidad ni por acción ni por inacción. En Runaround, un personaje humano llamado Powell explica que un programa ético matemático basado en reglas está instalado de fábrica en la inteligencia artificial (IA) de todos los robots. En la historia, el robot Speedy pone en riesgo vidas humanas porque no fue informado de que los humanos podrían resultar dañados y se confunde cuando se le ordena realizar una tarea muy peligrosa, creando un conflicto entre las reglas 2 y 3.

” Ética de los robots ” describe un campo de la ética que explora y analiza las preocupaciones morales y de seguridad en torno a la robótica y el desarrollo de la IA, que inspiraron en gran medida las Tres leyes de la robótica de Asimov. Los científicos, ingenieros y programadores informáticos se esfuerzan por agregar salvaguardias para evitar que los robots o la IA dañen a los humanos o se dañen a sí mismos y debaten si es posible programar un sistema ético basado en reglas similar a las Tres Leyes de la Robótica. Desafortunadamente, dadas las tecnologías actuales, aplicar las leyes de Asimov a la robótica moderna no es práctico porque los robots carecen de sensibilidad y no pueden tomar decisiones lógicas o éticas basadas en el contexto. Los científicos han sugerido cambios compensatorios a las tres leyes de Asimov como solución a este dilema. Por ejemplo, una modificación de la primera ley podría implicar reemplazar el término “daño” con requisitos para que los robots y la IA cumplan con los más altos estándares legales, éticos, profesionales y de seguridad.