Chema Mansilla
Editor - Cine y TVPuede que Sin Piedad no sea el estreno más esperado del año, pero Chris Pratt protagoniza una película que resulta más interesante de lo que aparenta a simple vista. En ella se plantean tres cuestiones fundamentales de nuestra sociedad contemporánea: la aplicación de la inteligencia artificial (IA) en la vida cotidiana, la confianza de los ciudadanos en el sistema de justicia en un contexto de polarización política y, finalmente, la sobreexposición de la vida personal y la vulnerabilidad de nuestra intimidad. No es poca cosa para una película que, en realidad, consiste en acompañar durante casi dos horas a Pratt atado a una silla mientras hace scroll por las redes sociales de su mujer a la vez que discute con Rebecca Ferguson por videollamada.
La película, dirigida por el siempre adrenalínico Timur Bekmambetov, nos presenta al Detective Raven (Pratt), acusado de un asesinato validado por un sistema de IA. La llamativa premisa adquiere relevancia porque muestra una Justicia Predictiva que, más allá de la ciencia ficción, ya está tomando forma en la vida real. Pudimos charlar con Pratt y el actor nos lanzaba una advertencia sobre la "nube municipal": “Creo que esta película es intrigante porque te hace pensar: 'Oh, eh... la nube municipal, mi huella digital, podría usarse potencialmente en mi contra'. Este planteamiento inicial no solo sirve como motor narrativo, sino que también refleja los dilemas éticos y sociales que enfrentamos hoy con la digitalización masiva y la recopilación de datos en todos los ámbitos de la vida.
Josef K. en la era del Big Data: El "Proceso" Digital
El paralelismo con El Proceso de Franz Kafka es inmediato. En el clásico de la literatura Josef K. era arrestado sin comprender la acusación ni el funcionamiento del sistema que lo procesaba. En Sin Piedad, la IA actúa como esa "fortaleza" burocrática, una caja negra cuyos criterios resultan opacos e inhumanos incluso para sus creadores. Si para el protagonista kafkiano El Proceso resulta una pesadilla, no lo es menos para Raven, enfrentado a la fría lógica y al blanco o negro de los datos.
Tal como señala la OMS en su informe sobre IA (en su uso en los sistemas sanitarios, en concreto), la ausencia de transparencia y la falta de estándares legales son preocupaciones reales: la tecnología avanza más rápido que la legislación, y cuando un sistema falla, no siempre hay responsables claros. Esa opacidad de no saber cómo funciona realmente una red neuronal artificial que toma decisiones con efectos reales a partir de una enorme emulación de datos, sin saber realmente cómo funciona, vale tanto para una IA que decide opertarte de apendicitis como ponerte una multa: la burocracia moderna se ha vuelto kafkiana. Afortunadamente actualmente no son así las cosas, pero sí el escenario de esta película en el que el sistema judicial está completamente controlado por una IA, donde no hay un humano al otro lado al que recurrir.
Podríamos argumentar que una decisión basada en la pura lógica y los hechos contrastable debe ser, por naturaleza, justo. Pero este ecosistema digital plantea preguntas éticas urgentes: ¿cómo juzgamos decisiones tomadas por máquinas que aprenden de datos históricos, a veces sesgados, sin supervisión humana suficiente? ¿Cómo puede una red digital de esa naturaleza comprender las emociones que en ocasiones nos obligan a tomar una decisión u otra o a realizar una opción y otra?
De los "Precogs" a PredPol: Justicia Predictiva y sesgo algorítmico
Me parece que la conexión con Minority Report es clara. En Minority Report, el sistema se basa en la unidad policial de "PreCrimen", que utiliza a tres videntes mutantes (los "Precogs") capaces de visualizar los asesinatos antes de que sucedan. Basándose en estas visiones, la policía detiene y encarcela a los futuros perpetradores por delitos que aún no han cometido, asumiendo su culpabilidad como un hecho absoluto y eliminando el juicio tradicional y la presunción de inocencia. En Mercy ocurre algo parecido: desaparece la presunción de inocencia en el tiempo límite que dura el juicio frente a la IA, que ya ha decidido que eres culpable en base a las pruebas, debes demostrar que se equivoca y demostrar tu inocencia. Delirante, ¿verdad?
A través de la investigación contrarreloj de Raven, muestra que incluso la mejor IA puede ser ciega ante la complejidad humana
En la película, la IA acusa a Raven antes de que pueda probar su inocencia, y en el mundo real, sistemas como PredPol o Palantir predicen dónde podría ocurrir el crimen usando datos históricos. La consecuencia no es menor: la sobre-vigilancia en barrios empobrecidos refuerza patrones racistas y clasistas, por ejemplo. Chris Pratt advierte en su entrevista sobre cómo nuestra huella digital puede volverse en nuestra contra, y su reflexión resuena con estudios de MIT Technology Review sobre policía predictiva en EE. UU., donde algoritmos mal diseñados perpetúan inequidades en lugar de mitigarlas, y esto no es ficción. En Sin Piedad, a través de la investigación contrarreloj de Raven, muestra que incluso la mejor IA puede ser ciega ante la complejidad humana, destacando la importancia de la presunción de inocencia, la supervisión ética y del juicio profesional.
La vigilancia total y la "Nube Municipal"
Le pregunté a Pratt si la vigilancia constante nos vuelve más honestos o simplemente más cuidadosos al ocultar nuestras acciones: “Oh. Es una buena pregunta. Quizá más honesta, ¿no? Creo que... ya veremos. Es decir, actualmente vivimos en un estado de vigilancia constante. Simplemente no nos damos cuenta del todo. (...) Creo que sería una combinación de ambas cosas. Creo que la gente se lo pensará dos veces. Porque muchas veces las cosas que hacemos o decimos y que nos meten en problemas, no las decimos en serio. Son solo cosas impulsivas que soltamos. Así que tal vez haya una buena lección ahí para pensar antes de hablar. Si todos pensáramos un poco más antes de hablar, creo que nos meteríamos en menos líos y probablemente seríamos un poco mejores personas. Así que, quizá sea una buena lección que aprender.“ Teniendo en cuenta las polémicas en las que se ha visto involucrado por sus declaraciones sobre diferentes temas sociales, políticos y religiosos, tal vez no sea un mal consejo.
La vigilancia masiva puede derivar en control social disfrazado de eficiencia tecnológica
Esta idea remite al Panóptico de Jeremy Bentham, un diseño arquitectónico carcelario del propuesto por este filósofo inglés en el siglo XVIII que permite a un único vigilante observar a todos los reclusos desde una torre central sin ser visto, generando en ellos la sensación constante de ser vigilados, lo que induce al autocontrol y la autodisciplina. Es un modelo de poder eficiente, un vigilante invisible que nos fuerza a autorregularnos. Hoy, ejemplos como el sistema de Crédito Social en China o la plataforma de operaciones conjuntas integradas en Xinjiang muestran la materialización de este concepto. Cámaras, reconocimiento facial y seguimiento de pagos y relaciones sociales permiten clasificar a ciudadanos como "sospechosos" sin que hayan cometido delito alguno.
Imagen de nuestra entrevista con Chris Pratt
Tal vez sea un ejemplo extremo, pero socialmente la población también modifica su comportamiento público de cara a los demás siguiendo estos mismos mecanismos psicológicos, cambiando a un solo individuo como vigilante por un vigilante compuesto por el resto de la sociedad. Ya lo decían los Simpson: mientras todo el mundo vigile a todo el mundo, todo irá bien. El riesgo es claro, la vigilancia masiva puede derivar en control social disfrazado de eficiencia tecnológica. La película lo ejemplifica al mostrar a Raven limitado a una silla y a la jueza digital Mercy confinada a una pantalla: la tecnología domina, los humanos quedan reducidos a piezas observadas, pero no comprendidas.
Más allá de la ficción, la IA ya es protagonista en salud, justicia y administración pública. El informe de la OECD sobre el uso de la IA en estos campos explica que los gobiernos pueden usar algoritmos para ofrecer servicios proactivos y personalizados, pero la confianza ciudadana sigue siendo baja: solo un 40 % confía en que la IA mejore la gestión pública. Problemas como la explicabilidad de decisiones y el sesgo de datos muestran que el potencial de la IA puede convertirse en riesgo si no se regula adecuadamente.
Capitalismo de la vigilancia y privacidad digital
La película también plantea el tema de la sobreexposición de la vida privada y la cesión de datos. Tal como recoge Nueva Sociedad, la psicología social Shoshana Zuboff advierte sobre el capitalismo de vigilancia, donde nuestra experiencia humana se transforma en datos predictivos que terceros usan para manipular comportamientos y decisiones. El paralelismo es evidente: tanto en la ficción como en la realidad, los ciudadanos están bajo un escrutinio constante. Se trata de un sistema económico que reclama unilateralmente la experiencia humana como materia prima gratuita para traducirla en datos de comportamiento.
Se trata de un sistema económico que reclama unilateralmente la experiencia humana como materia prima gratuita para traducirla en datos
En relación con el uso de la IA y la monitorización, Zuboff argumenta que estos datos no solo se vigilan, sino que alimentan una "inteligencia de máquinas" para fabricar productos predictivos que anticipan y modifican lo que haremos, creando una asimetría de poder donde las corporaciones lo saben todo sobre nosotros mientras nosotros ignoramos sus operaciones. La IA, bien utilizada, es una herramienta potentísima con infinidad de aplicaciones; mal regulada, puede convertirnos en sujetos de experimentación, mercadeo y control social. La película plantea esta reflexión, es una pena que no sepa sacarle mejor partido.
Que la realidad no te impida pasar un rato entretenido
En términos cinematográficos, Sin Piedad es una película entretenida, aunque no revolucionaria. El montaje el montaje es trepidante, pero que la película no destaca esencialmente en ningún otro sentido y tampoco deja demasiado espacio para que sus dos estrellas protagonistas se luzcan limitando a uno (raven) a estar confinado en una silla y a la otra (la jueza digital Mercy) a ser un rostro en una pantalla.
La película hubiera quedado mucho más redonda si no se hubiera metido con calzador una trama de acción con persecuciones y explosiones
Con todo la película hubiera quedado mucho más redonda si no se hubiera metido con calzador una trama de acción con persecuciones y explosiones que lleva al espectador a un desenlace al final tan poco inspirado como innecesario para la trama. Imagino que si no hay cosas que explotan a lo mejor el público no se sentiría especialmente atraído por este estreno. La película hubiera ganado profundidad si no se hubiera añadido forzosamente un mensaje por momentos produce auténtico sonrojo y que termina empañando el buen trabajo realizado hasta el momento. La combinación de ciencia ficción, thriller judicial y acción no siempre encaja de manera natural. Sin embargo, el verdadero valor de Mercy no reside en el espectáculo, sino en cómo plantea preguntas sobre vigilancia, ética de la IA y privacidad, cumpliendo así con la esencia de la buena ciencia ficción: hacer pensar al espectador mientras lo entretiene.
¿Herramienta o trampa?
Sin Piedad ofrece una reflexión sobre los riesgos y beneficios de la Inteligencia Artificial. Mientras la trama de Raven es ficción, sistemas como COMPAS en EE. UU. muestran que la realidad puede ser igual de peligrosa cuando algoritmos deciden sobre vidas humanas basándose en datos sesgados. No penséis que solo en China andan liados con este tipo de operaciones. Lla tecnología ha superado a la legislación y, como en El Proceso, corremos el riesgo de ser juzgados por una autoridad que no vemos, no entendemos y con la que no podemos negociar.
Chris Pratt, el cualquier caso, lo tiene claro cuando le pregunto sobre si haber participado en esta película le ha hecho cambiar su opinión sobre la IA:
"Mis pensamientos sobre la IA son muy diferentes ahora que hace unos años. Pero, ¿no lo son los de todo el mundo? Creo que la IA está evolucionando y también nuestra comprensión de ella. Pero lo que saqué de esta película... No es una de esas películas que te exige pensar demasiado o que plantea preguntas que perdurarán en vuestros corazones. Quiero que la gente entienda (que) esta es una experiencia de entretenimiento pasivo. En todo caso, es una oportunidad para dejar el teléfono y no tener que ser, eh, conducido a un estado de manía, sino más bien a un entretenimiento alegre. Esto es estar al borde del asiento, suspense, acción, aventura, pantalla 3D, directo a la cara, pulso acelerado, comiendo palomitas. Es volver a los viejos tiempos de lo que se supone que debe hacer una película y lo que se supone que debe ser el entretenimiento. No intentamos hipnotizarte en un estado de atención constante, solo intentamos darte este regalo maravilloso. Así que, por favor, ved la película. ¡EN 3D!"
Me queda la duda se si yo he querido ver Sin Piedad más de lo que realmente hay. Coincido en que la película no pretende ser un manifiesto político ni un tratado académico. Su mérito está en combinar entretenimiento con preguntas necesarias sobre justicia, vigilancia y privacidad, recordándonos que, en la era digital, cada acción deja una huella que podría volverse en nuestra contra. La película Sin Piedad se estrena en cines en España el próximo 23 de enero. Para los amantes del thriller y la ciencia ficción que quieran reflexionar sobre nuestro presente y futuro digital.
En 3DJuegos | Hace 63 años se estrenó una película de samuráis tan buena, que su duelo final se sigue copiando. Desde Star Wars a Kill Bill
En 3DJuegos | De icono del cine a tener dos series canceladas, Lucasfilm tiene un gran problema con Indiana Jones
Ver 0 comentarios