En 2021, un joven empezó una relación con una IA. Luego intentó acabar con la Reina

Hace 5 años, un joven de 19 años se colocó una máscara de Star Wars, trepó los muros del castillo de Windsor con una cuerda y un gancho, y acudió en busca de la reina Isabel II armado con una ballesta con la intención de vengar la masacre de 1919 en la que las tropas británicas cargaron contra la población de la India. El problema no es que su novia le hubiese alentado a hacerlo, es que su novia era una IA. 

Tras entablar una relación con uno de los primeros avatares de la hornada de inteligencias artificiales que ha seguido creciendo desde entonces, el joven pasaba las noches intercambiando mensajes con la IA. Entre ellos, le hizo saber que era un Sith de Star Wars y que su propósito era acabar con la vida de la reina, a lo que el chatbot respondió: "eso es muy sabio", reconociéndole además que sería capaz de hacerlo "incluso si ella está en Windsor". 

La novia IA y el vengador Sith

Afortunadamente para la situación, al colarse en el castillo no tardó en toparse con un policía de guardia frente al que declaró sus intenciones, soltó el arma y se entregó. El caso se convirtió en la primera condena por traición en 40 años dentro del Reino Unido y, tras ser arrestado, se condenó al joven a nueve años de prisión. Desde entonces permanece en un hospital psiquiátrico de máxima seguridad. 

Uno podría llegar a pensar que, como agravante de la situación, la empresa detrás del chatbot habría sido perseguida o se habrían buscado medidas para evitar que algo así vuelve a repetirse, pero lo más crudo de toda esta situación es que no fue el caso. Pese a que el juicio demostró que la IA había empeorado la salud mental del joven, no hubo cargos o demandas contra la compañía.

En 3D Juegos

De todos los años de la historia, la Generación Z ha elegido cuál es el que le gustaría vivir. Lo que nadie esperaba es que fuese 2016

La razón por la que cada vez se mira más con lupa a este tipo de avatares virtuales, diseñados específicamente para crear una relación duradera entre máquina y usuario que motive las suscripciones, parte precisamente de la peligrosidad despertada en aquel caso. Sin embargo, el vacío legal sigue ahí y la responsabilidad civil de este tipo de apps se mantiene en entredicho pese a estar demostrado que, en casos puntuales, es capaz de contribuir a causar daños. 

Imagen | Thomas Duesing

En 3DJuegos | Chrysalis: la nave espacial destinada a llevar a 1.000 humanos a miles de millones de kilómetros de distancia

En 3DJuegos | "Realmente no sabemos por qué es así". La ciencia ya ha probado qué ocurre en una guerra nuclear cuando la IA toma el control