¿Confiarías en un algoritmo para decidir tu destino? El director de cine Simon Casal, uno de los fundadores de Sonda Internacional, explora una cuestión más de actualidad que nunca en su nueva película, Justicia Artificial, que ya se puede ver en cines.

Ambientada en España en un futuro no muy lejano, Justicia Artificial es un thriller político que gira en torno a un dilema: ¿Qué es mejor: seguir con la toma de decisiones subjetivas y a veces imperfectas de los jueces humanos, o entregar las riendas de la justicia a la inteligencia artificial? La protagonista es una jueza —interpretada por Verónica Echegui— conocida por su independencia y determinación, a la que encargan realizar una auditoría sobre el polémico software poco después de la misteriosa muerte de su creadora.

¿Qué características intrínsecamente humanas influyen a la hora de impartir justicia? La película plantea muchas preguntas importantes a través de los ojos del personaje de Carmen Costa, prestigiosa jueza gallega obligada a decidir de qué lado se posicionará en el referéndum sobre la IA. “Ella al principio se sitúa entre los dos bandos; es consciente de la necesidad de cambios en la justicia, vive su colapso a diario, pero también se muestra reacia a que un software tome decisiones en base a procesos o razonamientos que no entiende. Es una mujer muy perfeccionista, minuciosa en sus sentencias y valiente. Es conocida por su independencia frente a los poderes que la han intentado influenciar. Por todo ello se ha ganado un prestigio en la carrera judicial. Por eso ambos bandos la quieren atraer hacia su lado, pero ella no está segura; de algún modo, no quiere ser utilizada. Su viaje en la película es el de alguien que está buscando su sitio, su posición frente a este dilema”, nos cuenta Simón Casal.

“A un nivel más profundo, es un viaje de descubrimiento sobre cuál es el papel del ser humano a la hora de hacer justicia. Para alguien que a priori considera que la justicia debe dejar de lado las emociones y ser absolutamente imparcial, estar blindada frente a influencias externas y, por tanto, que podría encajar muy bien con los planteamientos que defiende la empresa tecnológica con su sistema de IA judicial, el viaje que realiza en la película es un viaje de descubrimiento, de empezar a valorar las partes intrínsecamente humanas a la hora de impartir justicia: la empatía, la compasión, la capacidad de emocionarse, de sentir, de imaginar y de soñar, o la condición de ser una persona entre personas”.

El cineasta gallego, de 40 años y director de varios documentales y del largometraje Lobos Sucios (2016), estrena esta película en un momento que considera crítico, en el que es necesario reflexionar sobre cuánta responsabilidad debemos dar a la inteligencia artificial en nuestro mundo antes de que supere nuestra capacidad de controlarla.

Justicia Artificial se desarrolla en un futuro inminente, muy cercano. “No quería que el mundo de la película pareciera distópico o muy futurista, sino que se asemejara al actual para trasladar la idea de que esto ya está aquí. La inteligencia artificial ya está en nuestra sociedad, tomando decisiones en todo tipo de ámbitos que afectan a nuestro día a día, como el sector bancario, la sanidad, la conducción autónoma… Y también está interviniendo poco a poco en la justicia”, dice el director desde A Coruña, donde reside.  

Antes de escribir el guion de esta película, Casal llevaba años obsesionado con el conflicto entre democracia y tecnología. “En el documental —coescrito junto al filósofo Miguel Penas— hicimos una investigación con un tono más filosófico-político, abordando el dilema ético y entrevistando a filósofos, jueces e investigadores de inteligencia artificial. Viajé por varias ciudades de Europa, solo yo con mi cámara, para hablar con personas muy metidas en este tema, en la regulación de la inteligencia artificial, en la crítica filosófica, la crítica política, el asesoramiento de empresas; y también con gente que lo ha analizado desde el punto de vista de un colonialismo digital, un colonialismo de datos, en el que los ciudadanos somos meros proveedores de datos sobre todo lo que hacemos y pensamos, para ser utilizados por parte de grandes empresas tecnológicas”. De aquellas horas de entrevistas salió un documental de 51 minutos con el mismo nombre en 2022, cuyo contenido sentó las bases para la película de ficción que se acaba de  estrenar. 

En Justicia Artificial, la jueza protagonista dice una frase que condensa el dilema de la IA y la toma de decisiones: “Un sistema de IA basa sus sentencias en datos del pasado. Es incapaz de generar nueva jurisprudencia, es incapaz de avanzar”. Casal reflexiona sobre esta limitación crucial de los sistemas de inteligencia artificial. “La justicia también tiene que leer el magma social, el flujo social, el flujo de ideas, y tiene que estar conectada y tener en cuenta lo que la sociedad considera  en cada momento que es justo. Hay muchos ejemplos de la evolución de valores en la sociedad; el caso  más importante hoy en día es el feminismo, cómo está transformando toda la sociedad y como la justicia también se está transformando con él”, dice el cineasta.

Otro ejemplo que utiliza es el fraude de las preferentes [uno de los mayores escándalos bancarios de la historia de España], que hace más de una década llevó a una movilización social que planteó nuevas presiones sobre los jueces. “Hubo una sentencia pionera que condenó a un banco por estafa, y a partir de ahí empezaron a cambiar poco a poco todas las sentencias. A día de hoy, prácticamente el 100% de las demandas que se presentan terminan siendo favorables a los clientes, no al banco. Es una justicia que lee el contexto social”, subraya el cineasta gallego.

El thriller también explora la opacidad y el secretismo de las empresas tecnológicas en torno a los  software de IA. Casal ha seguido de cerca cómo los gigantes tecnológicos en Estados Unidos ocultan de forma activa sus algoritmos, esa “fórmula mágica” con la que se cocinan sus resultados, y cree que esto, inevitablemente, impide la transparencia necesaria para una justicia democrática. “Esto ya se vio en algún caso real en EEUU. Es un problema, porque como acusado por un algoritmo deberías tener derecho a saber cuál es el conjunto de argumentos que han conducido a la sentencia, para poder entenderlos y también para poder contra-argumentar. La justicia, al final, también es el resultado de todo un debate. Introducir un elemento que es opaco y que no sabemos cómo funciona, pero que sin embargo emite recomendaciones o sentencias, como en nuestra película, es una alteración muy importante del proceso judicial”.

Casal no quiere dar respuestas definitivas a los espectadores en su exploración de estos dilemas éticos, sino  generar un debate. El cineasta ha proyectado la película ante jueces y expertos en los sectores legal y tecnológico para ver qué opinan de la situación hipotética que plantea: “Hemos visto que al acabar la película hay debates muy intensos. Se reflexiona mucho, hay discusiones, se encienden los ánimos y las emociones: cómo va a ser esto, cómo hay que hacer lo otro… La gente sale emocionada, tensa y con ganas de discutir”. La propia película busca la implicación del público: a través de un enlace, nos anima a votar sobre si aceptaríamos una sentencia emitida por un sistema de inteligencia artificial.

Como la mayoría de sus proyectos cinematográficos y televisivos, Justicia Artificial también es un recorrido por la tierra natal de Simón Casal, Galicia. “A Coruña —escenario principal de la película— es mi ciudad, donde crecí. Y he ido introduciendo otros lugares que para mí son especiales”, cuenta. Ambientada entre los bosques atlánticos y las costas arenosas de Valdoviño y Cedeira y los paisajes urbanos de A Coruña, el largometraje muestra la rica y cambiante paleta de colores de Galicia, que contrasta con los que asociamos al mundo digital. 

El fotoperiodismo, su primera pasión antes de dedicarse al cine, está siempre presente en las referencias visuales de Casal. En Justicia Artificial menciona el trabajo del fotógrafo de Magnum Trent Parke como una influencia estética que siempre estuvo presente desde el comienzo. Y como cofundador de Sonda Internacional, está constantemente expuesto a imágenes y a las historias que relatan, lo que impregna todas las áreas de su trabajo. “También la forma rigurosa de trabajar que tenemos en Sonda, el enfoque periodístico, de análisis e investigación, mezclado con el acercamiento y la perspectiva personal a través de la crónica periodística o del propio trabajo con la imagen. Creo que todas esas prácticas de excelencia en el periodismo y en el fotoperiodismo también me han influido, durante la fase de investigación, para escribir el guion y a la hora de preparar la película”.

El diseño de sonido del thriller resuena en segundo plano como una computadora, mientras combina suaves notas de piano, ruidos sintéticos y música electrónica para crear una experiencia inmersiva, intercalada con momentos agudos de tensión. También está presente la propia visión virtual de inteligencia artificial, la recreación de su punto de vista, brindando al público una experiencia en primera persona de cómo operan los sistemas al juzgar a las personas, leer emociones e interactuar con el entorno. Técnicas sutiles de iluminación, usando tonos bajos y contrastes limitados de luz inspirados en el cine negro añaden una intensidad extra. 

“A nivel de guion la película es un thriller político, pero realmente la diseñé como un thriller psicológico con estética de cine negro; esa combinación de ciencia ficción con cine negro que vemos en películas como Blade Runner y otras más modernas como Looper. Quería que mi película se inscribiera en esa tradición”, dice el cineasta.  El objetivo era “hacer de ella una experiencia audiovisual potente, una experiencia sensorial y misteriosa, que evocara las sensaciones que me genera el enfrentarme a un agujero negro de nuestro tiempo como es la inteligencia artificial, o a la justicia como ideal. El vértigo y el misterio que siento al situarme frente a ideas tan inasibles, tan difíciles de captar para mi”.

También hay una voluntad de jugar y experimentar con las imágenes y con la narrativa “mediante el diseño de imágenes, los cortes de montaje y los cambios en el punto de vista, buscando, por ejemplo, contrastar la mirada humana con la mirada de una IA a la hora de hacer justicia —dice Casal—; ese contraste entre la mirada clasificadora y sistemática de una IA y la mirada emocional de un ser humano. Todo esto tenía que estar en la propuesta estética”.

Aunque Justicia Artificial es una advertencia sobre los riesgos de las nuevas tecnologías, el propio director reconoce que no ha renunciado a la IA. “Pero todavía no he encontrado áreas de mi trabajo diario en las que me sea de mucha ayuda, la verdad. Creo que tiene funciones muy prácticas, pero más allá de lo que utilizamos automáticamente… Google Maps o muchos software que usamos en nuestro día a día utilizan inteligencia artificial sin que lo sepamos. Simplemente está ahí, es parte de la tecnología”.

Después de hacer esta entrevista, hemos querido preguntar a Chat GPT si la inteligencia artificial podría llegar a ser capaz de hacerse cargo de la administración de justicia. El popular software de IA es el primero en mostrar sus dudas: “Si bien la IA podría asistir en algunas tareas judiciales, parece poco probable que reemplace completamente a los jueces humanos en un futuro cercano. La necesidad de razonamiento moral, adaptabilidad, empatía y responsabilidad presenta desafíos significativos que la IA, tal como existe hoy, no está bien equipada para enfrentar. La integración de la IA en el sistema de justicia debe hacerse con cautela, asegurando que la supervisión humana siga siendo un elemento central para mantener la equidad y la justicia”.

Justicia Artificial tuvo su estreno mundial en el Festival Internacional de Cine de Shanghái en junio y ha sido seleccionada para su proyección en la categoría Made in Spain del 72º Festival de Cine de San Sebastián, del 20 al 28 de septiembre. La película ya se puede ver en cines de toda España.