Ciber Cultura

Los protocolos robóticos y su paso de la ciencia ficción a la realidad

isaacasimov
Escrito por Mihaela Marín

Las leyes de robótica de Asimov convierten a este último en unos de los escritores consagrados de la ciencia-ficción. Al mismo tiempo sus ideas abren un debate prolongado hasta la actualidad.

En 1942 era demasiado temprano hacer observaciones acertadas sobre el futuro de la relación humanos-robots, aun así la realidad de esos tiempos no coincidía exactamente con lo que reflejaba la obra de uno de los escritores más conocidos de todos los tiempos, Isaac Asimov. Sus tres leyes de la robótica abordadas en unos de sus libros de referencia Yo, Robot, añadieron una página inolvidable en la literatura científico-fantástica, abriendo al mismo tiempo las puertas a un debate controvertido prolongado hasta la actualidad.

Las tres normas gravitan en torno a una idea principal que apunta a la obediencia como el mayor deber de un robot:

  1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la primera ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.

Asimov juega con el concepto de moralidad a lo largo de muchas de sus historias anticipando el crecimiento exponencial del desarrollo robótico a medida que pasa el tiempo e implícitamente apunta a la evolución de las contradicciones que levantarían el contacto entre nuestra especie y las maquinas. Sin embargo ¿qué esconde la necesidad de plantear semejante código moral?

La respuesta que se puede extraer de la obra del escritor ruso se relaciona con el miedo de los humanos delante de la rápida evolución de los robots con el paso del tiempo, una teoría que hace referencia a la capacidad de los autómatas de redefinir el concepto de “daño” a medida que sus circuitos se vuelvan más complejos y ganen una mayor capacidad de reflexión.

La mayor responsabilidad recae en manos de los humanos

De ciencia ficción, las leyes propuestas por Asimov se traspusieron a la práctica en 2010 por el Consejo de Investigación de Ingeniería y Ciencias Físicas, una agencia de Reino Unido creada para financiar la investigación y formación de los futuros ingenieros y físicos. El grupo estableció una serie de normas con implicaciones exclusivamente éticas y dirigidas a informar a los desarrolladores y usuarios qué es lo que implica el diseño y uso de un robot.

Uno de los puntos más importantes que intenta recalcar el grupo de expertos ha sido el de demostrar por qué las leyes de robótica actuales no coinciden con la situación imaginada por Asimov:

A pesar de que proporcionan un punto de partida útil para la discusión, las reglas de Asimov son aplicables sólo a la ficción. Estas no fueron escritas para ser utilizadas en la vida real y no sería práctico hacerlo, ya que simplemente no funcionan en la práctica”.

La agencia continúa su argumentación enumerando algunas de las preguntas importantes que se quedarían sin respuestas: ¿cómo puede saber un robot todas las posibles formas en las que un ser humano podría ser perjudicado? ¿Cómo puede un robot entender y obedecer todas las órdenes humanas, incluso cuando la gente se confunde sobre lo que significan las instrucciones?

Es por este motivo por el cual, después de un largo debate la EPSRC llega a la conclusión de que los robots son simples herramientas y la mayor responsabilidad debe recaer en las manos de sus creadores.

La conclusión es justa, aunque, a diferencia de los argumentos nacidos de la literatura científico-fantástica de Asimov, la regulación moderna establecida por la agencia británica comienza con una norma que no indica claramente dónde se acaba el poder de actuación de los robots dejando bastante margen de interpretación. De acuerdo con los mismos autores, las cinco reglas presentadas a continuación servirán como punto de partida para futuros debates:

  1. Los robots no deben ser diseñados exclusivamente o principalmente para matar o dañar a los humanos, excepto en interés de la seguridad nacional.
  2. Los seres humanos, no los robots, son los agentes responsables. Los robots son herramientas diseñadas para lograr los objetivos humanos.
  3. Los robots deben ser diseñados de forma que aseguren su protección y seguridad.
  4. Los robots son objetos, no deben ser diseñados para aprovecharse de los usuarios vulnerables al evocar una respuesta emocional o dependencia. Siempre debe ser posible distinguir a un robot de un ser humano.
  5. Siempre debe ser posible averiguar quién es el responsable legal de un robot.

Decidir un código ético seguirá un tema debatido

Los robots inteligentes que intentan evadir las leyes viven sólo en las historias del escritor ruso, sin embargo su esfuerzo de plasmar la sociedad robótica queda justificado por el argumento de la creación literaria.

Por otro lado podemos estar de acuerdo con la misma razón invocada por la agencia, es decir los robots no pueden ser tratados como si fueran personas reales, por tanto son los  seres humanos que diseñan las máquinas los que deben ser los sujetos reales de cualquier ley. Sin embargo esta teoría no encajaría con la  idea de  explosión de inteligencia elegida para explicar los grandes saltos que se producen cada vez que se crea un modelo tecnológico a partir de otro existente.

Muchos dirían que se trata sólo de una constatación filosófica cuyo fundamento no está respaldado por argumentos lógicos, pero ¿no es la realidad la que nos enseña que los modelos construidos hasta ahora son copias mejoradas de las pasadas en un intervalo de tiempo cada vez menor?

Las reflexiones que se pueden extraer desde esta perspectiva ampliada indican que la misión de los organismos competentes de establecer un código moral que de alguna forma controle el desarrollo y uso de robots todavía tiene un largo camino por delante hasta dar con una forma definitiva.

Imagen principal 

 

Sobre el autor de este artículo

Mihaela Marín

Mi interés por la tecnología ha nacido cuando me he dado cuenta de que nos permite ver el lado escondido de la realidad. Todavía quedan muchas cosas por descubrir y suficiente curiosidad para entender lo que realmente somos. Especializada en Periodismo y Marketing, he podido compartir experiencias con profesionales del mundo empresarial tecnológico. Siempre en búsqueda de ideas, escribo para hacer conocido el trabajo innovador, capaz de cambiar los problemas en soluciones.

  • Mikel Garin

    Me fastidia que un organismo dependiente de un estado que ni siquiera es el mío intente imponer una idea como la primera que figura entre las cinco que propugnan.
    No te fastidia. Ahora resulta que un robot si puede dañar a un ser humano en aras a mantener la seguridad del estado. Dejemos a los futuros robots, inteligentes o no, libres de actuar como armas para combatir por nosotros.
    Creo que la intención de Asimov con sus robots inteligentes era la de protegernos de nosotros mismos, dada la manifiesta incapacidad de hacerlo nosotros tanto de forma individual como colectiva.