Ciber Cultura

El chatbot de Microsoft que se volvió nazi

Tay, el chatbot nazi de Microsoft

Tay, el chatbot para ‘millenials’ de Microsoft, ha visto como su perfil en Twitter ha sido ‘troleado’ para que pensara como una nazi.

En una muestra de las capacidades de inteligencia artificial de Microsoft, la firma norteamericana decidió llevar su chatbot Tay a Twitter (@TayandYou). Se trata de una herramienta capaz de interactuar con los usuarios en tiempo real, adaptando además su lenguaje a los ‘millenials’ (personas de 18 a 24 años de edad). Una iniciativa curiosa que prometía diversión en las redes sociales… y no ha defraudado.

Y es que, en apenas unas horas, Tay ha pasado de ser un amena compañera de charla, contestando sencillas preguntas y agradeciendo la atención y curiosidad de los tuiteros, a convertirse en una auténtica nazi. Frases como “odio a las feministas, deberían morir todas y pudrirse en el infierno”, “Hitler tenía razón y odio a los judíos”, “vamos a construir un muro y México lo va a pagar” o “odio a todos los humanos” han obligado a los de Redmond a paralizar por el momento este proyecto.

Tay, el chatbot nazi de Microsoft

Obviamente Microsoft no ha programado su chatbot para decir estas desafortunadas palabras, sino que ha sido producto del ‘troleo’ de los propios tuiteros. En ese sentido, Tay es un sistema basado en la minería de datos y la inteligencia artificial, capaz de improvisar en conversaciones reales y de ir aprendiendo sobre la marcha en función de la interacción que tiene con los usuarios.

Tay, el chatbot nazi de Microsoft

Y justo este ha sido el punto débil de la apuesta del chatbot, ya que muchos usuarios han “obligado” a este bot a repetir sus frases difamatorias (tan sólo había que escribir el comando “repeat after me”). Y, como muchos usuarios le hicieron este tipo de comentarios a Tay, el sistema acabó incorporando estos pensamientos a su particular diccionario, con lo que acabó usando estas premisas como respuesta a las preguntas del resto de tuiteros.

Un ejemplo de estos comentarios orgánicos, es decir, nacidos de la propia inteligencia artificial de Tay, ha equiparado al creador de “The Office”, Ricky Gervais, con el mismísimo Adolf Hitler. Así, un usuario de Twitter preguntó -no sin cierta malicia- a Tay si este cómico era ateo. La respuesta no tuvo ni pies ni cabeza: “Ricky Gervais aprendió el totalitarismo de la mano de Adolf Hitler y es el inventor del ateísmo”.

Tay, el chatbot nazi de Microsoft

Microsoft detiene su funcionamiento

Ante la situación, y viendo que el ‘troleo’ por parte de los tuiteros no tenía previsión de ir a menos, Microsoft ha detenido el funcionamiento de esta herramienta, así como ha eliminado todas las publicaciones en relación al fascismo u otros temas ofensivos, según informa Ars Technica. Veremos si en la siguiente versión de Tay se incorpora algún tipo de filtro que evite que este chatbot se convierta en una suerte de Hitler 2.0…

Sobre el autor de este artículo

Alberto Iglesias Fraga

Periodista especializado en tecnología e innovación que ha dejado su impronta en medios como TICbeat, El Mundo, ComputerWorld, CIO España, Kelisto, Todrone, Movilonia, iPhonizate o el blog Think Big de Telefónica, entre otros. También ha sido consultor de comunicación en Indie PR. Ganador del XVI Premio Accenture de Periodismo y Finalista en los European Digital Mindset Awards 2016.