Tecnología

El MIT crea una IA psicópata (para probar la importancia de los datos)

tendencias inteligencia artificial 2018
Escrito por Marcos Merino

A estos investigadores les mueve el ánimo de demostrar una teoría (que los datos proporcionados a los algoritmos a aprendizaje automático importan), y no temen crear el nuevo Skynet en el proceso.

La historia de la ciencia-ficción está llena de universos en los que un robot o supercomputadora ‘se le cruzan los cables’ y termina esclavizando o masacrando a toda la especie humana. Son historias que explotan el miedo que sentimos a crear algo que se salga del camino que le habíamos marcado y no seamos capaces de controlar. Así que los investigadores del MIT Media Lab han tenido una idea ‘brillante’: saltarse la parte del descontrol y optar por crear desde el primer momento una inteligencia artificial psicópata. Como guinda, han decidido bautizarlo ‘Norman’, en honor a Norman Bates, el villano de ‘Psicosis’.

Diseñan un ‘botón rojo’ para someter a inteligencias artificiales

Pero, ¿qué ha motivado a este equipo de científicos a hacer algo así? Pues, sencillamente, el ánimo de demostrar una teoría: que los datos proporcionados a los algoritmos a aprendizaje automático importan, y mucho. Todos recordamos el escándalo que generó Tay, el bot de Twitter que Microsoft lanzó a la Red para que mejorase su capacidad de expresarse de forma humana a fuerza de interactuar con los humanos, y que los trolls terminaron convirtiendo mediante sus conversaciones en un bot agresivo y racista que tuvo que ser desconectado. Ahí la clave estuvo en las conversaciones que sirvieron de materia prima al algoritmo de aprendizaje de Tay .

Así que en el MIT optaron por buscar material gráfico sobre la muerte en “los rincones más oscuros de Reddit” y ‘alimentar’ con eso el algoritmo de Norman. Una vez hecho eso, le sometieron al ‘test de Rorschach’, mostrándole una mancha de tinta. Allí donde un algoritmo con entrenamiento estándar veía flores y tartas de boda, Norman sólo veía a un hombre con una herida mortal y otro atropellado. “Norman solo ha conocido imágenes horribles, por lo que ve la muerte en cualquier imagen que mire”, explican ahora los investigadores del MIT responsable de Norman.

Las 9 profesiones con más psicópatas del mundo

Pero tampoco es el primer experimento del MIT sobre la aplicación de ‘datos oscuros’ al aprendizaje automático: hace dos años, algunos de los creadores de Norman lanzaron “Nightmare Machine”, un algoritmo que utilizaba el aprendizaje profundo para transformar imágenes de rostros o lugares con el objetivo de que pareciera que no estaban en una película de terror.

Vía | CNN Money

Sobre el autor de este artículo

Marcos Merino

Diseñador web y docente de educación no formal, imparte cursos de informática en el medio rural porque las brechas están para cerrarlas. Desde que le nombraron director de la revista de su colegio, no ha dejado de escribir.