Hace un tiempo, los medios de comunicación informaron que en China se implementará un sistema informático capaz de predecir el comportamiento criminal. Les contamos esta escalofriante historia y proponemos una reflexión a la luz de un muy interesante anime japonés (Psycho-Pass).
Hoy en día nos sorprendemos de la capacidad que ha tenido China para controlar rápidamente la propagación del Covid-19 y mucho se ha hablado sobre el control poblacional del titan oriental. Hace un tiempo, se conoció en los medios de comunicación[1]Por ejemplo en: https://mashable.com/2017/07/24/china-ai-crime-minority-report/ o en https://www.ft.com/content/5ec7093c-6e06-11e7-b9c7-15af748b60d0 a nivel mundial una noticia muy curiosa: en China una empresa de reconocimiento facial se encontraba probando un programa de inteligencia artificial, capaz de “predecir” el comportamiento delictivo de los ciudadanos. La firma se llama “Cloud Walk” y diseñó un sistema que utiliza datos de los movimientos y el comportamiento de los individuos (por ejemplo visitas a tiendas de armas) para evaluar en tiempo real, sus posibilidades de cometer un crimen. Se encuentra basado en Big Data y evalúa a las personas según sus antecedentes, lo que hacen y adonde van. Esto solo es posible porque China es, en sí mismo, un Estado de vigilancia total, en el que las autoridades tienen pleno acceso irrestricto a todos los datos de sus ciudadanos. El sistema «avisaría» a la policía cuando la conducta de las personas alcance niveles altamente “sospechosos”, permitiendo detenerlas, incluso «antes» de que cometan cualquier infracción.
En todos los medios que levantaron la noticia, se hizo referencia a la similitud de esta historia con “Minority Report”, la famosa película de ciencia ficción del año 2002, dirigida por Steven Spielberg, protagonizada por Tom Cruise y basada en un relato de Philip K. Dick. Pero nosotros vamos a proponer otra referencia, menos conocida, pero quizás más exacta: el anime japonés “Psycho-Pass”, del año 2013, creado por Hikaru Miyoshi.
“En China una empresa de reconocimiento facial se encontraba probando un programa de inteligencia artificial, capaz de “predecir” el comportamiento delictivo de los ciudadanos.”
¿De qué va el argumento de este anime? En un futuro próximo, la sociedad japonesa se encuentra dirigida por un sistema de inteligencia artificial, con acceso a toda la información privada de todas las personas. El sistema se llama “Sibyl”, nombre que hace referencia a las Sibilas, mujeres a las cuales los antiguos griegos y romanos atribuían la facultad de predecir el futuro. El sistema evalúa las habilidades de cada ciudadano para asignarles trabajos adecuados y hasta recomienda parejas para casarse en base a un cálculo de la compatibilidad psicológica entre los futuros cónyuges. Pero el elemento fundamental de esta sociedad es una tecnología capaz de medir de forma instantánea el estado mental de un ser humano y la probabilidad de que vaya a cometer delitos. Se trata de escáner psicosomático que determina el llamado “Psycho-Pass”: un número asociado a un color. Cuando esta probabilidad (el «Coeficiente de Criminalidad») es demasiado alta, es decir, posee un color muy oscuro y un número muy elevado, los individuos son catalogados como “delincuentes en potencia” y son perseguidos y detenidos con fuerza letal, si es necesario. Esta tarea es realizada por un equipo especial de potenciales delincuentes llamados “Ejecutores”, que son supervisados a su vez por oficiales de la policía, conocidos como “Inspectores”. Los Inspectores deben asegurarse de que los Ejecutores cumplan con sus funciones dentro de los límites de la ley. Los Ejecutores e Inspectores emplean armas especiales llamadas «Dominadores», son las únicas armas permitidas en toda la sociedad y se encuentran diseñadas para disparar sólo contra aquellos con un coeficiente de criminalidad mayor a lo normal.
En particular la trama sigue la historia de la inspectora Akane Tsunemori recién asignada a la Unidad 1, con una psique increíblemente clara. En su trabajo, toma contacto con Nobuchika Ginoza, un antiguo Inspector, que por contaminación de su Psycho-Pass, ante el estrés del trabajo y por no poder lidiar con la muerte de un antiguo compañero, se convirtió en un delincuente potencial, asumiendo el rol de Ejecutor. El asesino del viejo compañero de Nobuchika es el personaje más interesante de la serie, Shogo Makishima, el principal “villano” que la unidad debe atrapar.
En la medida que avanza la historia, a lo largo de varios capítulos que tratan sobre diferentes casos criminales, se despliega el principal problema que presenta el anime. Por una parte la sociedad parece funcionar extraordinariamente bien, pero por otro lado, el costo que se paga es la vigilancia constante y la pérdida real de la libertad personal. La cuestión es si vale la pena el beneficio, y lo más interesante es que no hay una fácil respuesta a esta pregunta, que a lo largo de toda la trama se mantiene siempre abierta.
En particular la trama sigue la historia de la inspectora Akane Tsunemori recién asignada a la Unidad 1, con una psique increíblemente clara. En su trabajo, toma contacto con Nobuchika Ginoza, un antiguo Inspector, que por contaminación de su Psycho-Pass, ante el estrés del trabajo y por no poder lidiar con la muerte de un antiguo compañero, se convirtió en un delincuente potencial, asumiendo el rol de Ejecutor. El asesino del viejo compañero de Nobuchika es el personaje más interesante de la serie, Shogo Makishima, el principal “villano” que la unidad debe atrapar.
En la medida que avanza la historia, a lo largo de varios capítulos que tratan sobre diferentes casos criminales, se despliega el principal problema que presenta el anime. Por una parte la sociedad parece funcionar extraordinariamente bien, pero por otro lado, el costo que se paga es la vigilancia constante y la pérdida real de la libertad personal. La cuestión es si vale la pena el beneficio, y lo más interesante es que no hay una fácil respuesta a esta pregunta, que a lo largo de toda la trama se mantiene siempre abierta.
«
Algunas consideraciones generales:
Para empezar, digamos que la pretensión de predecir el comportamiento criminal antes de manifestarse, no es un anhelo nuevo. Ya en la Europa positivista del siglo XIX, Cesare Lombroso, teorizó que el crimen era resultado de tendencias innatas, observables en ciertos rasgos físicos de los delincuentes habituales (asimetrías craneales, determinadas formas de mandíbula, orejas, etc.). Pero no se quedó ahí, en sus obras también se mencionan: el clima cálido, la forma del terreno, la alimentación, la posición económica y la religión como factores determinantes en la aparición de un criminal. Básicamente convenía ser lindo, blanco, rico, cristiano y vivir, si es posible, en una llanura templada.
))Más allá de esta curiosidad, hoy arrojada al pozo de las teorías científicas olvidadas, se nos presenta una primera pregunta a contestar: ¿Es realmente predecible el comportamiento humano? Si nos basamos en los actuales resultados de las ciencias sociales, o incluso de las neurociencias, tan de moda hoy en día, todavía al menos, no hemos logrado erradicar la libertad humana reduciendo nuestras decisiones a una fórmula matemática. No podemos predecir el comportamiento individual con una probabilidad lo suficientemente alta, como para poder justificar, ni por asomo, una detención policial preventiva. Incluso nuestras predicciones estadísticas al respecto dejan mucho que desear (como demuestran los testimonios de la legión de economistas que profetizan los más variados destinos colectivos, todos los días en televisión).
Puedan o no puedan realmente predecir el comportamiento de los posibles criminales, el simple hecho de plantear esta posibilidad ya logra un efecto disciplinador. Supongamos que no pueden predecir nada, pero aún así, logran convencer a la gente de que realmente pueden hacerlo. El efecto es el poder panóptico del que hablaba Michael Foucault [2]Foucault, Michael (2008); Vigilar y Castigar; Siglo XXI Editores; Mexico: el hombre que no sabe cuando lo están vigilando, actúa como si todo el tiempo lo estarían vigilando; por miedo a ser catalogado como “criminal en potencial”, se esforzará intensamente en no “parecer” criminal (no solo en no llegar a serlo realmente). Y en los esfuerzos por “encajar” en ese “parecer”, abandonará voluntariamente toda su libertad.
Sigamos un poco más lejos. El tema se relaciona con una pregunta ética muy antigua y fundamental: ¿Qué es lo que en última instancia evita que cometamos crímenes? es decir, la pregunta sobre si la moral realmente existe o si se trata de una mera «imagen social» que buscamos dar ante los demás. Platón (¿quién más?) nos ayuda a pensar esta cuestión; relata el mito de Giges, un pastor que en un lejano reino, era conocido por su gran bondad. Tras una tormenta y un terremoto, Giges encontró por casualidad, en el fondo de un abismo, un caballo de bronce con un cuerpo sin vida en su interior. Este cuerpo tenía un extraño anillo de oro y el pastor decidió quedarse con él. Lo que posteriormente descubrió Giges es que se trataba de un anillo mágico, que cuando se lo ponía y le daba la vuelta, lo volvía invisible (toda similitud con el “Señor de los Anillos”, muy probablemente, no sea mera coincidencia). Giges utilizó el anillo para seducir a la reina y, con su ayuda, matar al rey y apoderarse de su reino. El personaje de Glaucón (hermano de Platón) en la obra «La República»[3]Platón (2014); La República; EUDEBA; Buenos Aires, hace referencia a esta leyenda para ejemplificar su teoría de que todos los seres humanos por naturaleza son injustos. Una persona puede llegar a ser justa únicamente por miedo al castigo o por obtener algún beneficio. No existen las buenas intenciones. Lo que se oculta detrás de esta sociedad de plena vigilancia es básicamente esta idea desilusionada sobre la naturaleza humana.[4]También haríamos bien en considerar, que la moral en las sociedades orientales está menos orientada por la interioridad de una culpa que por la exterioridad del cumplimiento de la ley, pero eso … Continue reading
Suponiendo que la moral existe y que incluso aquellos que desarrollan estos sistemas de control, no tienen malas intenciones, se mantiene otra pregunta fundamental: ¿Hay verdadero valor moral en una acción humana, si el mal es directamente anulado como opción? Es claro el beneficio que esto trae para la sociedad en su conjunto ¿Pero es moralmente bueno, si para lograrlo, anulamos la posibilidad de romper la ley? La misma pregunta se plantea la distópica novela “La Naranja Mecánica” de Anthony Burgess.
A su vez hay otro tema que nos sugiere la trama de este anime, y que es mencionado directamente por uno de sus personajes secundarios (Jouji Saiga, profesor de psicología, y criminal en potencia). Se trata del pensador alemán Max Weber y su teoría sobre la racionalización creciente de las sociedades modernas. Weber nota, que nuestras sociedades occidentales tienden a privilegiar cada vez más los comportamientos racionales, en el sentido de comportamientos de gran “efectividad” para lograr determinadas metas; es decir, que se perfeccionan constantemente los “medios” para lograr los “fines” que se proponen; se profesionalizan, se crean burocracias estatales y empresariales cada vez más preparadas y más productivas, se mejora la tecnología del trabajo para lograr mejores resultados con menor cantidad de recursos, etc… Esto parece ser bueno, pero algo que el propio Weber señala es que el costo que pagamos es muy alto. Sin duda es más racional una sociedad que utiliza la tecnología para someter al cálculo cada aspecto de la vida humana y evitar todo aquello que potencialmente podría perjudicarla. El costo es la propia libertad personal. Es famosa la comparación que hace Max Weber, de este proceso de racionalización con una “jaula de hierro” que a la larga nos oprime[5]Weber, Max (2006); La ética protestante y el espíritu del capitalismo; Editorial Terramar.. Weber mismo veía en el socialismo, que asociaba con un dirigismo estatal extremo, un paso más en este proceso. Es cuestionable que el ideal socialista implique una anulación de toda capacidad de elección, más bien tiendo a pensar lo contrario, pero sin duda la relación entre el socialismo real y el respeto de la individualidad es una cuestión problemática.
Para terminar, y considerando todo lo que dijimos antes, queremos hablar un poco del “villano” de este anime: Shogo Makishima ¿Qué es lo que lo hace tan interesante? Primero digamos que es un asesino despiadado, y especialmente alguien que se dedica a asistir con recursos económicos, incluso con instrucción y consejos, a todos los criminales más perversos que podamos imaginar (incluyendo a un asesino que se dedica a hacer estatuas con los cadáveres de sus víctimas y a exponerlas en una plaza pública) ¿Cómo logra hacer todo esto y no pueden atraparlo? Porque es lo que se llama un “criminal asintomático”, es un fallo en el sistema; a pesar de sus asesinatos, su coeficiente de criminalidad nunca alcanza niveles peligrosos, haciéndole inmune al arma de los Ejecutores. No pueden matarlo y no pueden hablar de él, siendo que su mera existencia pone en cuestión toda la eficacia del sistema social imperante.
Al comienzo, cuando nos presentan este personaje, sin duda tendemos a verlo como un perverso criminal; pero en la medida que avanzan los capítulos nos damos cuenta de algo: Makishima no ayuda a los asesinos porque disfrute de matar o por maldad propiamente dicha, sino solo por razones políticas. Makishima ayuda a los asesinos porque en una sociedad que nos detiene antes de llegar a cometer cualquier acto malvado, el hecho de que alguien pueda atreverse siquiera a intentar cometer un delito y logre tener éxito, es el único acto de libertad posible contra un tipo muy particular de opresión: la imposición de lo razonable y de una bondad científicamente determinada.
Después de todo, la revolución es siempre un acto ilegal.
Si te gustó este contenido, apoyá al autor/a para que pueda hacer más:
Aporte Único:
$ 200
Aporte Único:
$ 350
Aporte Único:
$ 500
Artículos relacionados
Fernando Pessoa, un maestro de la sospecha
Compartimos un análisis sobre la obra de Fernando Pessoa, poeta portugués. Una reflexión sobre el caracter metáfisico de su poesía y la noción de identidad. “Y la conciencia de que la metafísicaes una consecuencia de estar indispuesto” En Fernando Pessoa, su...
¿El fútbol es arte?
cataceg@gmail.com En este artículo la autora se hace la pregunta ¿es el fútbol un arte?. Las banderas, los cantos, las camisetas, elabora una reflexión en torno al carácter estético de esta pasión de multitudes. ¿El fútbol es arte? Eso me pregunté cuando mi papá me...
Algunas consideraciones sobre la ludopatía juvenil
paulasuarlopez2@gmail.com Paula Suárez López reflexiona sobre la ludopatía juvenil. Rastrea el origen del término, lo que tiene en común con otras adicciones y en qué se diferencian, y cómo se presenta actualmente en el nuevo fenómeno que afecta a los jóvenes...
Referencias