El programa forma parte de un estudio que quiere llamar la atención sobre los peligros potenciales de este tipo de códigos adaptativos.
El Centro para el Estudio del Riesgo Existencial, dependiente de la Universidad de Cambridge, trabaja en un informe que trata de llamar la atención sobre los peligros potenciales de las llamadas “mega inteligencias no biológicas”. Para apoyar sus argumentos el equipo ha desarrollado un mod para Civilization V que presenta nueva inteligencia artificial adaptativa.
Este código genera unos bots a los que los jugadores no podrá derrotar. De manera similar a como se desarrollan este tipo de ideas en la literatura y el cine de ciencia-ficción, estas inteligencias evolucionan paulatinamente y puedo llegar a adquirir consciencia de ellas mismas. Tal como afirma este equipo de investigadores, esto puede resultar a la larga tan beneficioso como devastador para la civilización.
El estudio del comportamiento de este código en el juego afirma que "la inteligencia artificial puede proporcionar algunos beneficios, y eventualmente puede convertirse en una superinteligencia que lleva el dominio de la ciencia a su descubridor, sin embargo, si la investigación de inteligencia artificial no se controla, la superinteligencia puede destruir a la humanidad y perder el juego de manera instantánea". El doctor Shahar Avin, responsable de este mod señala que los videojuegos son un modo excelente para dar a conocer este tipo de ideas e investigaciones, "un medio estupendo para alertar y alcanzar una audiencia mayor, explicando el contexto necesario para temas complejos como éste, pudiendo ser divertido y educativo, algo con lo que se puede aplicar el riesgo de la aniquilación nuclear o el calentamiento global".
El mod puede descargarse gratuitamente desde Steam, y permite a los usuarios de Civilization V y Civilization V: Cambia el Mundo interactuar con inteligencias artificiales con distintas personalidades, algunas abiertamente hostiles.