Tecnología

Por qué los robots tienen que aprender a desobedecer

robot pensando

Los robots tienen el objetivo de recibir órdenes y obedecer. Sin embargo, puede tener consecuencias negativas que cumplan todas las peticiones de los usuarios.

Idealmente, los robots están diseñados para hacer absolutamente todo lo que les requiramos, haciéndonos la vida más fácil. No obstante, una orden inconsciente puede tener repercusiones nocivas.

Por ello, no es positivo que los robots cumplan a rajatabla todo lo que les pidamos. Imagina que un niño le ordena al dispositivo lanzar una pelota por la ventana. Puede ser que esa pelota aterrice en una calle con mucho tráfico causando un accidente.

Otro problema se da con las personas mayores. Posiblemente un usuario de avanzada edad tenga una memoria olvidadiza, y pida una misma tarea repetidas veces.  Sería más razonable que el dispositivo pudiera detectar si realmente es necesario hacer la acción que le pide, o si ya la completado recientemente.

Este caso incluso podría darse en dueños despistados o afectados por el estrés de su trabajo. El resultado puede ser autómatas lavando ropa recién sacada de la lavadora de nuevo, o engordando al perro dándole 6 comidas al día.

Y no sólo los menos avispados pueden hacer un mal uso de sus robots, los más listos también. Puede ser que un niño caiga en la cuenta de que su dispositivo automático puede hacer los deberes todos los días en su lugar. Y en un escenario algo más extremo, puede que personas empleen sus robots para dañar a otros.

Las órdenes pueden ser inofensivas, pero sus consecuencias pueden adquirir cierta gravedad. Una maquina ayudando a un chef en la cocina, no preve el peligro de andar detrás de alguien con un cuchillo apuntando en su dirección. De la misma manera, tal vez no detecte que hay un perro durmiendo plácidamente en el suelo cuando se le ordena que dé marcha atrás.

En todo caso, es imprescindible que un robot tenga la capacidad de negarse a realizar una acción, ya sea por ser equívoca o por generar un riesgo para el usuario o los que le rodean.

La ONU debatirá si prohibir los robots asesinos autónomos

No obstante, ¿cómo puede reconocer el peligro una maquina? y si lo reconoce, ¿cómo debe actuar?

En HRILAB, especializados en la interacción entre robots o humanos, han comenzado a crear autómatas que sean capaces de sacar una simple conclusión acerca de lo que su dueño les requiere. De esta manera, el robot podrá determinar si debe llevar a cabo la tarea, o si por el contrario debe rechazarla por ser contraria al código ético que tenga programado.

La dificultad está en que, no sólo debe tener en cuenta las posibles consecuencias, sino también el contexto y las intenciones del que demanda la acción.

Tomemos el ejemplo del niño con la pelota de nuevo. Es complicado que un robot sepa cuando es correcto o incorrecto lanzar una pelota. Es decir, jugando a pasársela es admisible, pero no tirarla por la ventana. La situación se vuelve aún más enrevesada si el humano engaña al robot, como podría hacer un niño pidiendo que le pase la bola a él, pero luego se agache para que desaparezca por la ventana.

lucha robot humano

Con el fin de solventar este problema, los dispositivos automáticos tendrían que tener la capacidad de razonar las múltiples consecuencias podría tener una acción, teniendo en cuenta la situación concreta y el propósito que pretende conseguir el usuario con la actividad.

Una vez que haya analizado los efectos, debería relacionarlas con lo que está permitido moral o legalmente. Por lo tanto, sería imprescindible que las maquinas automáticas tuvieran una serie de normas legales y reglas morales, e incluso etiqueta para poder decidir si su acción respeta enteramente o no esos principios.

Queda un largo camino para alcanzar este objetivo, pero si hay algo de lo que no cabe duda es que, para operar eficazmente, los robots tienen que tener la capacidad de desobedecer.

Vía | Inverse 

Sobre el autor de este artículo

Christiane Drummond

Estudiante de Periodismo y Derecho en la Universidad Rey Juan Carlos, realizando una beca en Axel Springer conectada siempre con la actualidad e innovación!