Ciber Cultura Tendencias

Instan a las Naciones Unidas a prohibir el desarrollo de robots autónomos de combate

Escrito por Mihaela Marín

Las advertencias sobre el peligro que podría provocar la capacidad de decisión autónoma de las máquinas es un tema que incita cada vez a más voces a tomar una actitud defensiva ante la amenaza que pueda traer consigo el auge de la tecnología. Hace un tiempo las mismas observaciones venían por parte de una coalición formada por Elon Musk y otras figuras prominentes del campo de la inteligencia artificial y cuyo objetivo era concienciar sobre las consecuencias nefastas de la automatización completa de los robots.

Ahora se convierte en una iniciativa más firme de Human Rights Watch y Harvard Law School. Las dos entidades han decidido elaborar un informe (“Mind the Gap: The Lack of Accountability for Killer Robots”) que urge a las Naciones Unidas a prohibir el desarrollo de “robots asesinos”. La presentación del documento ha precedido la “Convención sobre Ciertas Armas Convencionales” organizada por las Naciones Unidas en Ginebra esta semana con el fin de prohibir o restringir el uso de determinados tipos de armas que podrían perjudicar a combatientes o a civiles de forma indiscriminada.

El informe de 38 páginas denuncia la falta de un marco legislativo que establezca algún tipo de responsabilidad para los que participan en el uso y la producción de sistemas avanzados de armas (fabricantes, programadores o mandos militares). Además, el mismo mensaje señala que la normativa actual les podría librar de responsabilidad penal en el caso de muertes causadas por las máquinas: “Las armas no pueden ser consideradas responsables por su conducta porque no pueden actuar con intenciones criminales, con lo cual se quedarían fuera de la jurisdicción de los tribunales internacionales y por tanto no podrían ser castigadas”.

Riesgos

Las principales preocupaciones, tal como recoge el documento, se relacionan con la habilidad de los robots de distinguir a los civiles de los objetivos militares o el uso descontrolado de los robots de combate por parte de las fuerzas armadas.

Ante un escenario de este tipo, la solución propuesta es  crear un frente común a nivel internacional que luche a favor de la prohibición de las armas completamente autónomas. Actualmente los drones se incluyen entre las tecnologías que más preocupaciones en materia de seguridad han levantado, pero todavía no han llegado hasta el punto de actuar sin la intervención humana. Aun así, el informe pone de manifiesto que esto será sólo una cuestión de tiempo: “Armas completamente autónomas aún no existen. Pero la tecnología se mueve en esa dirección y los sistemas precursores ya están en uso o en desarrollo. Por ejemplo, muchos países utilizan sistemas de armas de defensa- como la Cúpula de Hierro de Israel o el Phalanx y C-RAM de EEUU- programadas para responder automáticamente a las amenazas de municiones entrantes”. De lo contrario, la falta de intervención humana pondría a los robots de combate en la situación de tener un control total de su comportamiento, aumentando así los riesgos de abuso de sus fuerzas letales.

Finalmente, ¿en quién recae el poder de vigilar por el bien de la humanidad? Según los autores del informe este debate polémico que ha empezado a sembrar el miedo en la escena tecnológica se encuentra en una zona de ambigüedad que ni siquiera la justicia podría sacar a la luz: “La falta de responsabilidad no supone ningún tipo de disuasión frente a crímenes futuros, ninguna retribución para las víctimas, ninguna condena social para la parte responsable. Los numerosos obstáculos que impiden actuar a la justicia de cara a las posibles víctimas demuestran por qué necesitamos una prohibición urgente de las armas autónomas”, asevera Bonnie Docherty, autora principal del manifiesto.

Imagen principal  

Sobre el autor de este artículo

Mihaela Marín

Mi interés por la tecnología ha nacido cuando me he dado cuenta de que nos permite ver el lado escondido de la realidad. Todavía quedan muchas cosas por descubrir y suficiente curiosidad para entender lo que realmente somos. Especializada en Periodismo y Marketing, he podido compartir experiencias con profesionales del mundo empresarial tecnológico. Siempre en búsqueda de ideas, escribo para hacer conocido el trabajo innovador, capaz de cambiar los problemas en soluciones.