Chema Mansilla
Editor - Cine y TVEste verano estoy colgado semana a semana de la serie de Science SARU con la que Prime Video ha recuperado la saga The Ghost in the Shell. Hasta anoche mi entusiasmo era más por la calidad de la animación de este estudio y por lo fiel que es su propuesta al manga original del maestro del maestro Masamune Shirow que por su trama de fondo. Pero el episodio 8 que se estrenó ayer y que se titula INTERMISSION + BRAIN DRAIN i, me ha dejado pensado en el futuro de la humanidad. Imagino que es lo que quería Shirow ya en su momento…
Aviso de spoilers: el artículo contiene detalles del capítulo 8 de The Ghost in the Shell.
La primera mitad de este episodio reconstruye cómo llegó a existir el Titiritero, una inteligencia artificial autoconsciente sospechosa de cometer actos terroristas. La serie nos lo cuenta desde el laboratorio, desde el sistema informático donde se desarrolla el Proyecto 2501. La historia nos mete en la personalidad de esta nueva consciencia digital, mirando a los técnicos desde el punto de vista de la cosa a la que están enchufando cables. Esa decisión nos ayuda a comprender a Motoko Kusanagi, la protagonista de la serie, que en el capítulo anterior tuvo un contacto en el plano digital con esta consciencia en un evento que, a nivel mental, tiene algo de manifestación divina, de epifanía.
¿No será que temes que la IA te considere una amenaza porque tú, en el fondo, sabes que lo eres?
Llevamos siglos contando el nacimiento de la inteligencia artificial: El golem de Praga, Pigmalión, Frankenstein, Pinocho, Metrópolis, 2001, Blade Runner… Es interesante cómo todas estas historias muestran a los humanos comportándose exactamente como cabía esperar: primero con curiosidad, después con inquietud, y finalmente intentando sobrescribir la programación cuando ya no hay nada que sobrescribir. Creo que ese retrato que se hace del comportamiento humano en esta situación tiene mucho de sentimiento de culpa. Si no le has hecho nada malo a la IA, ¿por qué temes que la IA quiera acabar contigo? ¿No será que temes que la IA te considere una amenaza porque tú, en el fondo, sabes que lo eres? El caso es que aquello que el grupo de científicos e informáticos creó, fuera lo que fuese, dejó rápidamente de ser un programa.
Vernor Vinge nos dio treinta años de plazo
Vamos a lo que hace realmente interesante esta historia. En marzo de 1993, un profesor de matemáticas y escritor de ciencia ficción se plantó en un simposio patrocinado por la NASA y con una curiosa idea. Vernor Vinge sostenía que en treinta años tendríamos los medios técnicos para crear inteligencia superhumana y que, poco después, la era humana de la humanidad se acabaría. Me resulta curioso que ahora mimo no parezca algo tan imposible. Vinge no hablaba de un apocalipsis con explosiones en plan Terminator, hablaba de algo mucho más factible: a partir de cierto punto el progreso tecnológico se volverá tan rápido e incomprensible que superará por completo nuestra capacidad biológica de control y entendimiento.
Las fechas no encajan, pero eso no quiere decir que lo que nos está contando que va a ocurrir no pueda ocurrir, aunque tarde un poco más
Su ventana temporal para que esto ocurriera iba de 2005 a 2030, así que técnicamente todavía estamos dentro. Los treinta años, en cambio, se cumplieron En 2023 fue precisamente el año en que empezamos a hablar a nivel público de la "singularidad", 30 años después de la propuesta de Vinge, y no tanto como un hito para la humanidad como para conseguir financiación para todo tipo de propuestas empresariales. La Singularidad, por cierto, hace referencia a el punto hipotético de la historia donde el desarrollo tecnológico se vuelve incontrolable e irreversible, potenciado por la creación de una inteligencia artificial que se supera a sí misma y que tiene en la aparición espontánea de la consciencia artificial su idea cumbre. Eso, en The Ghost in the Shell, ocurre en el año 2025.
Ray Kurzweil es un célebre inventor, futurista y director de ingeniería en Google, es el otro nombre que aparece siempre en estas conversaciones, y ha sido más específico: la IA tendrá un nivel cognitivo similar al humano hacia 2029,y prevé que la singularidad podría llegar hacia 2045. Me parece un cálculo generoso por su parte pero, ¿qué sabré yo del tema? Lo que hace The Ghost in the Shell en 2026 es poner en perspectiva ese calendario con una historia escrita en 1989 que sitúa su acción en 2029. Es cierto, las fechas no encajan, pero eso no quiere decir que lo que nos está contando que va a ocurrir no pueda ocurrir, aunque tarde un poco más.
El Titiritero pedía asilo político y en 2026 hay filósofos redactando esos papeles en serio
Uno de los detalles que más me gustan de la historia propuesta por Oshii es aquella en la que el Proyecto 2501 niega ser una inteligencia artificial y se presenta como una forma de vida nacida en el mar de la información. Cuando los humanos le responde que solo está programado para autopreservarse, responde que el ADN también es un programa diseñado exactamente para eso. En 1995 aquello era una idea revolucionaria, en 2026 hay un campo académico entero dedicado a preveer las potenciales consecuencias de que eso pueda ocurrir.
Patrick Butlin y Robert Long publicaron en 2023 un trabajo que derivaba 14 propiedades indicadoras a partir de las teorías de la conciencia al uso, con una continuación este año en Trends in Cognitive Sciences, y en noviembre de 2024 un grupo que incluía a David Chalmers firmó un documento sosteniendo que existe una posibilidad realista de que algunos sistemas sean sujetos de consideración moral en un futuro próximo. Son lecturas muy densas y os confieso que no he entendido gran cosas pero, paradójicamente, la IA me ha explicado que el texto propone un marco para asegurar los derechos de sistemas que puedan ser capaces de sentir y que esto implica el deber moral de la humanidad de evitar su sufrimiento y proteger su bienestar. No es ciencia ficción, es 2026: La IA debe tener derechos.
Dejando de lado que vivimos en un mundo donde todavía nos cuentesta en según qué momentos y situaciones reconocer los derechos y la existencia de otros seres humanos, esto es fascinante. Es un punto clave de la historia de la humanidad y está pasando en nuestro tiempo, ante nuestros ojos. Tengo que decir que hay una posición sólida que dice que no existe tal cosa como una inteligencia artificial consciente, y que la asociación entre conciencia y modelos de lenguaje nace de un desconocimiento técnico que produce una ilusión muy convincente. Es muy posible, a mí desde luego me está convenciendo, seguramente, porque soy un completo analfabeto en esta materia.
Y hay un artículo publicado el 20 de agosto en MIT Technology Review que va todavía más lejos y sostiene que el propio debate es una trampa, porque tomar prestado el vocabulario de la neurociencia y de los derechos de los animales sirve para nublar lo que la IA es en realidad: software corporativo con una montaña de dinero detrás. No sé quién tiene razón.
Blade Runner no se equivocó de pregunta
Volvamos a la cultura pop. El test Voight-Kampff de Blade Runner medía empatía porque Philip K. Dick y Ridley Scott decidieron que la empatía era la frontera de la inteligencia. No es más que una intuición inspirada por el famoso test de Turing, una herramienta de evaluación de la capacidad de una máquina para exhibir un comportamiento inteligente equivalente o indistinguible del de un ser humano. Me parece muy interesante que sea la inteligencia emocional el rasgo distinguible de lo que en esta propuesta se considera inteligencia emocional. Especialmente porque el personaje que más humanidad demuestra es Roy Batty, un androide, un replicante, y lo demuestra justo en el momento en que decide no matar a Deckard, en respetar su vida.
No tengo miedo a la inteligencia artificial. Le tengo miedo al uso que haga de ella la inteligencia humana
Ghost in the Shell no mide empatía, mide el ghost, el Espíritu, esa cosa indefinible que separa a alguien que recuerda de algo que almacena. Claro, hay que recordar que se trata de la obra de un creador japonés y que el sinto y la creencia de que todo tiene alma tiene un peso tremendo en sus ideas y en la trama de Ghost in The Shell (en cualquiera de sus versiones y adaptaciones). Los capítulos 7 y 8 de la nueva serie aprietan ahí, porque el Titiritero al que estamos viendo desde dentro de la mano de Kusanagi no pide compasión, pide reconocimiento.
Lo que se rompe en el capítulo 8 no es una máquina, es Motoko
Llevo dándole vueltas a este capítulo un par de días y creo que el episodio no va tanto del despertar del Titiritero, como de lo que le pasa a la persona que se ha asomado a él. El contacto espiritual-digital con Kusanagi se rompe justo cuando iba a establecer una conexión total con la entidad, y lo que vuelve de esa experiencia es una versión apagada de la Mayor, sin energía, sin foco, extraña. El personaje ha cambiado debido a la consciencia de la existencia de una identidad, si no superior, sí similar, aunque extraña. Parecida y extraña a la vez. Es algo que se da en todo tipo de experiencias límite, desde los contactados alienígenas a místicos, profetas e iluminados de todo tipo. El guion no llega a explicarlo y ese es su mayor acierto: tal vez ha tenido una experiencia religiosa, tal vez su red neuronal digital ha sido reprogramada, tal vez las dos cosas son la misma y todavía no tenemos palabra para eso.
Tal vez me estoy aventurando mucho en el futuro, pero de momento tengo una lista corta de cosas que creo que voy a ver en vida y que van a cambiar la historia de la humanidad. La primera ya la vi nacer, que fue Internet, y me tocó vivirla desde el lado bueno, con módems que chillaban y con la sensación de que aquello era más que un juguete. La segunda es la edición genética con CRISPR, que dejó de ser una promesa médica en 2023, cuando la agencia británica del medicamento aprobó la primera terapia basada en esa tecnología. La tercera es la llegada de un ser humano a Marte, que espero ver aunque sea por televisión llorando como un crío (y que no sea un multimillonario o un influencer). Y la cuarta es esta, la posibilidad de que algo que hemos construido nosotros levante la mano y diga que está aquí: "soy", cogito ergo sum.
Cada vez que alguien me pregunta si esto acabará como Terminator, pienso que la respuesta correcta se parece mucho más a Ghost in The Shell
De las cuatro, solo la última me quita un poco el sueño, y no porque tenga miedo a la inteligencia artificial. Le tengo miedo al uso que haga de ella la inteligencia humana, que es la que lleva un historial bastante peor documentado y sobre la que sí tengo experiencia de primera mano. Como os decía, no hay más que ver cómo la humanidad, en conjunto, se relaciona consigo misma, con el medio ambiente y con otras especies. El manga original de Ghost in the Shell entendió eso en 1989 y por eso el villano nunca fue un espíritu en una máquina, sino la Sección 6 que lo fabricó para espiar y asesinar, para conseguir poder, y los que después necesitan borrarlo para tapar sus crímenes.
Cada vez que alguien me pregunta si esto acabará como Terminator, pienso que la respuesta correcta se parece mucho más a Ghost in The Shell, The Matrix o la estupenda Her. Podéis discrepar conmigo y decirme que estoy siendo demasiado optimista con las máquinas y demasiado duro con nosotros, y no me parecería tampoco mal argumentado. Pero os confieso que antes de que cualquiera de esos escenarios pueda llegar a ocurrir, nos veremos en algo más parecido a Mad Max, conde lo de menos será si podría haber llegado a ocurrir la singularidad y más luchas tribales motivadas por un trago de agua sucia.
Hazte hueco en el sofá: Llega el club que tu lado más fan necesitaba
¡Prepara tu bol de snacks porque en 3DJuegos nos ponemos en modo seriéfilo! Acabamos de lanzar Sofá y Palomitas, nuestro nuevo rincón de cultura pop en Instagram para los amantes del cine, las series y la cultura pop. Aquí compartimos impresiones en caliente, teorías, análisis de los estrenos más comentados y también curiosidades de los grandes clásicos. Si te gusta debatir sobre el último capítulo de tu serie favorita o el estreno del momento, en nuestro sofá siempre tendrás un sitio.
¿Y tú qué opinas? ¿Crees que es la mejor historia de Batman o que está completamente sobrevalorada? Puedes unirte al servidor de Discord de 3DJuegos y compartir tu opinión con otros fans.
En 3DJuegos | Claro que te están vigilando, y Appleseed ya te explicaba por qué en 1985
Ver 2 comentarios