Tecnología

Google se prepara por si las máquinas se alzan contra los humanos

Yo Robot
Escrito por David Hernández

Google prepara un protocolo de seguridad por si su Inteligencia Artificial Deep Mind tuviera un mal funcionamiento e hiciera caso omiso a las órdenes humanas.

¿Recuerdas películas como Terminator o Yo, Robot? Pues esas tramas de ciencia ficción donde la IA de las máquinas ha superado en inteligencia a los seres humanos y se levantan contra ellos, no se descarta en el futuro que suceda en la realidad. Google ha creado un protocolo de seguridad para su IA Deep Mind por si ésta decidiera que los seres humanos ya no fueran tan valiosos.

Hasta ahora Deep Mind es una IA que, para empezar, es capaz de derrotar al campeón del juego de tablero Go en apenas unas horas. Si bien se trata de una Inteligencia Artificial que aún no está muy extendida, sí que podría acabar estando disponible en un futuro cercano en distintas organizaciones y tareas como puede ser la línea de producción de una fábrica de automóviles.

Lo que diferencia a esta IA de Google de otras del mercado, es que es capaz de aprender de sus anteriores experiencias para superarse a sí misma. De esta manera, puede jugar a un videojuego y, tras caer derrotado, aprender el por qué sucumbió y no volver a repetir el error. De esta manera Deep Mind aprende y se mejora a sí misma, sin necesidad humana.

Pues, ¿qué pasaría si, por un mal funcionamiento, las máquinas que cuentan con Deep Mind se volvieran contra los humanos? Tanto ingenieros de Google como investigadores del Instituto para el Futuro de la Humanidad de la Universidad de Oxford, han creado un procedimiento para detener un hipotético mal funcionamiento de Deep Mind en caso de que fuera necesario “tomar control de sus sistemas cuyo comportamiento inadecuado pueda traer consecuencias irreversibles”.

Deep Mind, la IA que ha comprado Google

Y aunque parezca poco probable que las máquinas vayan a salir a acabar con los humanos, sí que este tipo de procedimiento sería válido, por ejemplo, si existiera mal funcionamiento en una línea de producción y fuera necesaria su desconexión para no perder toda la línea de montaje entera.

BB-8, el robot por radiocontrol de Star wars que triunfa en Amazon

Nick Bostrom, del Instituto para el Futuro de la Humanidad, considera que el punto de inflexión en el estudio de la Inteligencia Artificial será cuando las máquinas sean capaces de mejorarse a sí mismas, y parece que con Deep Mind podríamos estar cerca de llegar a ese punto.

Artículo original | ComputerHoy

Sobre el autor de este artículo

David Hernández

Periodista, comunicador y escritor. La tecnología es mi pasión y mi perdición. Redactor de Computerhoy.com y TicBeat.com, firmo también en publicaciones de videojuegos e igualmente me atrevo con los libros. Eso sí, todo junto pero no agitado.