#senguji toyohisa coloring | Explore Tumblr Posts and Blogs

diariodepensardenatalia · 4 years

Text

Análisis socio-cultural de las implicaciones de una sociedad algorítmica de pre-crimen tal y como es mostrada en el anime “Psycho-Pass”

Escrita por Urobuchi Gen y dirigida por Naoyoshi Shiotani, la serie nos muestra un Japón del siglo XXII gobernado, supuestamente, por un conjunto de supercomputadoras conocido como sistema Sybil, haciendo referencia a los oráculos de la Antigua Grecia (“Sibulla” en griego), encargado de vigilar a la sociedad y prevenir que se cometan crímenes mediante el psicoanálisis constante de la población a través de escáneres somáticos. Así, al analizar los pensamientos, deseos, nivel de estrés, etc de las personas les asigna su Psycho Pass, distinguiendo en este dos dimensiones: escala de color (cuanto más claro más saludable) y un número conocido como “coeficiente de criminalidad”, que es el que determinará la posibilidad de que el sujeto vaya en contra de la ley en un futuro, considerándolo un “criminal en potencia”. Pero el sistema, además, cuenta, con el fin de prevenir crímenes más eficientemente, con la Oficina de Seguridad Pública, cuyos inspectores y ejecutores (criminales en potencia que colaboran con el sistema para atrapar a otros como ellos), armados con pistolas conocidas como “Dominators”, que sólo disparan cuando el coeficiente de criminalidad de el objetivo supera lo aceptado. Estás herramientas, conocidas como “ojos de Sybil”, eliminan la capacidad de decisión y juicio propio de los agentes, al determinar quien o no ha de ser ajusticiado y, de esta forma, Sybil es capaz de funcionar a través de ellos, sus extremidades humanas, como juez, jurado, ejecutor y observador al mismo tiempo.

El anime se centra, al menos durante la primera temporada, en Akane Tsunemori, una inspectora novata asignada a la primera unidad del Departamento de Investigación Criminal; y es a través de ellos que seremos testigo de las implicaciones tanto morales como culturales de una sociedad gobernada por la idea del pre-crimen, la vigilancia permanente y las identidades impuestas por algoritmos. Esta noción de que los crímenes pueden ser prevenidos antes de que ocurran está basada en la historia de Philip K. Dick, “The Minority Report” (1956), donde tres mutantes conocidos como “precogs” son capaces de predecir crímenes antes de que ocurran y, conectados a una máquina, ayudan a una división policial llamada “Precrime” a arrestar sospechosos antes de que vayan en contra de la ley. Dick se cuestiona así la relación entre el autoritarismo y la autonomía de los individuos y es esta cuestión la que el guionista de Psycho-Pass, Urobuchi Gen, pretendía plasmar en el anime en cuestión, mostrándonos los daños que esto conlleva para una sociedad y sus habitantes.

Psycho-Pass nos hace testigo, pues, de lo que podemos considerar como una sociedad de tiranía algorítmica dónde las personas están definidas por lo que Cheney-Lippold llama, en su obra “We Are Data: Algorithms and the Making of Our Digital Selves” (2017), “measurable types” o tipos cuantificables, un conjunto de datos que asignan a los individuos identidades algorítmicas que acaban determinando lo que podemos o no ser. Citando a Cheny-Lippold en la obra anteriormente mencionada: “datos sobre lo que somos se vuelven más importante que lo que realmente somos o podemos elegir ser”. Y en esta sociedad algorítmica, el crimen se puede predecir precisamente porque se ha convertido en algo cuantificable por el sistema a través del Psycho Pass. En ella, aunque una persona cometa un crimen y sea considerado como causante, puede que según los algoritmos y bases de datos no se le pueda considerar culpable como objeto de datos. Esto se ve reflejado, precisamente, en el anime a través del personaje de Shogo Makishima, que no puede ser juzgado por el sistema al que él mismo busca destruir, al ser un “individuo bioindultado” capaz de mantener su coeficiente criminal bajo y, por tanto, inocente en lo que a Sybil respecta. El mismo critica en el capítulo 11 de la primera temporada: “¿Cómo defines quien es un criminal para empezar? ¿acaso lo decide tu arma, el Dominator, por medio del sistema Sybil?”. En el mundo de Psycho-Pass, el crimen como objeto de datos ha ganado tanta importancia que el sistema se ha vuelto inútil ante individuos violentos que no pueden ser clasificados como criminales. Estamos hablando, pues, de una sociedad de tiranía algorítmica donde quien es clasificado como criminal y quien no depende por completo de algoritmos y, por tanto, es el ser datificado del ciudadano o “doble datificado”, más que su ser biográfico o real, sus motivaciones y deseos, lo que es juzgado.

Por otra parte, también podemos considerar al universo de Psycho-pass y su peculiar sistema Sybil como una interpretación de una sociedad panóptica y, para ello, me valgo de la teoría del francés Michel Foucault en su obra “Vigilar y Castigar: el Nacimiento de las prisiones” (1975). Esto además servirá para contemplar si estamos realmente ante una sociedad distópica. Primero definir que es un panóptico: se trata de un concepto de prisión diseñado por Jeremy Bentham en 1787 y que consiste en una estructura circular con una torre en el centro, desde la cual los prisioneros son vigilados; pero, debido a que sus ventanas están tintadas, estos no pueden saber si están siendo observados en todo momento o no y, por ello, han de controlar su comportamiento. Esta función de vigilancia constante pero a la vez impredecible también la vemos en el sistema Sybil, que en vez de torres posee escáneres repartidos por todo el país para supervisar el Psycho Pass de toda la población, obligada a mantener tanto mente como Psycho Pass limpios y dentro de los estándares permitidos. También, al igual que el panóptico, el sistema Sybil automatiza y desinvidualiza el poder con su sistema computerizado, supuestamente, que no pertenece a ningún grupo o individuo. Como los prisioneros que desconocen la identidad de los guardias que los vigilan, los ciudadanos no saben quien o que está realmente detrás del Sybil. El propio sistema aclama en el capítulo 20 de la primera temporada: “Lo que es necesario es un sistema perfecto e infalible, quien lo controla y cómo lo maneja es irrelevante. En un sistema verdaderamente completo, la voluntad de su operador no se cuestiona”. Otras dos funciones que Sybil comparte con el Panóptico son la de “laboratorio” y “zoológico”. Esta última consiste en su capacidad de dividir a los prisioneros en grupos o categorías para emplearlos, mientras que la función de laboratorio permite experimentar con el comportamiento de los presos. Esto se ve en el anime, por un lado, con los tests de aptitud laboral, donde a través de sus talentos e inteligencia los ciudadanos son asignados compatibilidad con ciertos trabajos. Como bien dice el lema de Sybil: “Solo los capaces hacen lo que hay que hacer. Este es el privilegio que Sybil designa a la humanidad”. Por otro lado, como reflejo de los laboratorios, están los centros de rehabilitación donde se pretende alterar el funcionamiento de la mente de los pacientes para poder corregirlas y limpiar de nuevo su Psycho Pass. Si lo consiguen pueden volver a la sociedad, sino permanecen allí de por vida en celdas aisladas.

También queda por explorar la cuestión de si está sociedad ficticia puede o no ser considerada una distopía. Así, empezamos viendo que en el Japón retratado en este anime los ciudadanos tiene libertades restringidas sin duda alguna, en el sentido en que han de vivir de acuerdo a lo establecido por Sybil. El problema es que no se tiene en cuenta la voluntad y aspiraciones individuales de los ciudadanos a la hora de asegurar su felicidad; como bien dice Makishima en el capítulo 11 de la primera temporada: “La ciencia descubrió el secreto del alma, y esta sociedad cambió drásticamente. Sin embargo, la voluntad de la gente no formaba parte de esto”. La población estudia y se dedica a lo que Sybil considera apto para cada individuo, sin capacidad para que este aspire a cumplir sus propios deseos.

Otra razón por la que Psycho-pass es una distopía, y que me pareció muy interesante, es la existencia de la enfermedad de la “serenidad”, por la que los pacientes acaban en estado casi vegetal y suelen morir por fallo del sistema cardiaco debido a falta de estrés saludable (eustrés) por abuso de tratamientos anti-estrés. Es el hecho de que la raíz de la enfermedad radica en el sistema lo que nos hace considerarlo como una característica distópica; ya que los ciudadanos están bajo presión para mantener su mente sana y limpia para sobrevivir en la sociedad y, por ello, acuden a diversos medios para poder eliminar todo estrés de su mente y cuerpo. Pero el eustrés es algo vital para el ser humano, ya que estimula el sistema inmunológico y proporciona motivación vital y es, precisamente, es esa falta de propósito la que acaba provocando el estado de “coma” en los pacientes. En palabras del cyborg Toyohisa Senguji en el capítulo 7 de la primera temporada: “Los humanos se preocupan tanto por sí mismos que han llegado al punto de involucionar”.

A pesar de todo esto, vemos que gran parte de la población japonesa es, a pesar de todo, feliz, a excepción de minorías. Tanto el director ejecutivo Motohiro como el guionista Urobuchi son conscientes de la relación ambivalente entre utopía y distopía y no quieren que sea marcada como una simple sociedad distópica. Urobuchi afirma que: “Psycho-pass no trata sobre la crítica a una sociedad controlada, sino sobre un mundo donde la gente es salvada por el control y son felices. Un mundo así, sin embargo, crea distorsiones y es ahí donde los detectives tradicionales entran en acción”. De forma similar, Motohiro declara que Psycho-pass es: “el mundo donde la gente está completamente controlada por números y aún así el control no es estresante, sino más bien utópico. Es una historia de detectives ambientada en una sociedad así”. De esta forma, podemos concluir que Psycho-pass nos muestra un sociedad con una visión muy utilitarista del control social en la que la felicidad de la mayoría es asegurada mediante la miseria y el sufrimiento de unos pocos y por tanto, no deberíamos pensar en ella como solo una utopía o una distopía sino que depende del punto de vista que tomemos como referencia.

Finalmente, a modo de conclusión , pienso que lo que vemos en este anime es el peligro real, y al orden del día, de confiar demasiado en la tecnología y depender de ella en exceso; a lo que se le suma el avance de las tecnologías de vigilancia y control que limitan las libertades y derechos de los individuos. Este mundo que a primera vista parece muy lejano, nos sirve como ejemplo de en lo que nuestras sociedades actuales pueden llegar a convertirse si no somos conscientes. Pero, ¿sería tan horrible vivir en una sociedad similar a la de Psycho-pass?¿seriamos felices o acabaremos sufriendo? ¿estaríamos dispuestos a dejar de lado nuestras aspiraciones y deseos para encontrar esa “felicidad”? Estas preguntas podrían bien ser respondidas por los ciudadanos chinos actuales y de un futuro próximo, ya que su país es pionero en lo que mecanismo de control y vigilancia se refiere. Con cámaras de video en cada esquina, drones, escáneres faciales y un sistema de puntos (el Social Credit System, SCS) que bien podemos comparar con el Psycho Pass; el gobierno es capaz de mantener una vigilancia constante de los movimientos y acciones de gran parte de la población, al igual que la mirada permanente de Sybil. Aunque aún se trata de un sistema incompleto y necesitará de más años y avances para funcionar eficientemente, nos sirve de ejemplo de una sociedad que puede llegar a asemejarse bastante a la mostrada en este anime en no mucho tiempo y de advertencia del daño que esto podría llegar a producir. Los escáneres somáticos y el Psycho Pass pueden parecernos herramientas demasiado futuristas como para tomarlas en serio, pero los algoritmos y el Big Data si que son reales y cumplen con casi la misma función: determinar quien o no es y será un buen ciudadano, sus deseos y pensamientos, con el fin saber su aportación a la sociedad. Los datos cada vez tienen más relevancia y esto es algo que deberíamos tener muy en cuenta de aquí en adelante.

0 notes