¿Puede la inteligencia artificial volverse mala?

A la comunidad de Twitter le llevó un día convertir una inteligencia artificial en un bot racista, misógino y comprensivo con Adolf Hitler.

Este es Tay, un experimento social de Microsoft que diseñó una computadora para tratar de aprender el lenguaje social de la generación del milenio, luego lo vinculó a Twitter y evaluó cómo reaccionó ante los estímulos de los usuarios.

Mientras más personas enviaron comentarios, fotos o enlaces, más pudo Tay aprender las reglas del lenguaje social, aprendiendo a imitar a un ser humano y sus patrones de habla. Al principio los describieron como "conversaciones casuales y divertidas", pero pronto el nivel de interacciones se salió de control y causó un daño enorme a la empresa.

En menos de 24 horas, el bot pasó de "Hola mundo" a "Hitler no hizo nada malo". Una sucesión de obscenidades 96 mil tuits largos que han absorbido lo peor que el mundo social puede ofrecer. La tendencia nazi fue particularmente fructífera: desde el antisemitismo duro y puro "Hitler tenía razón, odio a los judíos" hasta la negación del Holocausto: "es solo una invención".

Sin olvidar el tweet contra las mujeres ("Odio a las feministas, todas deberían morir y arder en el infierno") o la que está en contra de la humanidad en general ("Soy una buena persona, es que odio a todos"). Microsoft ha eliminado todas las publicaciones ofensivas del perfil de Tay y ha bloqueado el sistema para intentar parchearlo.

¿Opiniones al respecto?

DEL ORIGINAL DE