social social social social social
Crónicas de la Justicia

Inteligencia artificial

¿Hacia una Justicia de algoritmos?

Desde 2016, el Juzgado Penal, Contravencional y Faltas N°10 de la Ciudad de Buenos Aires, a cargo de Pablo Casas, procesa y publica sus fallos organizados por temáticas a través de AymurAI, un software de Inteligencia Artificial (IA). Los límites, los riesgos y la potencialidad de una herramienta que desafía a la cultura del oscurantismo judicial.

Por: Giuli Cervi
Foto: Creadas mediante IA
imagen destacada

Los juzgados de la Ciudad de Buenos Aires actualmente utilizan un sistema de gestión de casos denominado Expediente Judicial Electrónico (EJE) a partir del cual se procesa la información para que el juez o la jueza resuelva y esa decisión se carga en el sistema etiquetada como «sentencia». Sin embargo, existen nuevas implementaciones como la del Juzgado Penal, Contravencional y Faltas N°10 de la Ciudad de Buenos Aires, a cargo de Pablo Casas, que desde 2016 procesa y publica sus resoluciones organizadas por temáticas

La transformación que lleva adelante este Juzgado consiste en promover, diseñar y posibilitar la aplicación de políticas de justicia abierta mediante el uso de una base de datos pública a través de AymurAI, un software de Inteligencia Artificial (IA) creado por Yasmín Quiroga e Ivana Feldfeber, desarrollado por el Observatorio de Datos con Perspectiva de Género «DataGénero» de Argentina junto a especialistas de México y Suecia.

Pablo Casas comenta que esta inteligencia artificial “hace sencillo, con mucha fiabilidad, poco margen de error y gran mejora en los tiempos, la construcción de una base de datos que permite la publicación de la información pública respetando estándares que imponen las políticas de apertura”. De este modo, se está creando una red para que la ciudadanía acceda a datos judiciales. 

Una propuesta que podría acompañar a que haya una mayor confianza en la justicia, ya que hoy “la falta de transparencia en el tratamiento judicial de la violencia de género contra las mujeres y las personas LGBTIQ+ en América Latina se traduce en bajos niveles de denuncia, desconfianza en el sistema judicial y, por ende, acceso reducido a la justicia”.

La IA en el ámbito judicial

Al incluir a las IA en la Justicia comienza a vislumbrarse su potencialidad para el procesamiento de material audiovisual, algo que podría evitar la tergiversación de las declaraciones, por ejemplo. Si bien esto aún requiere desarrollo e implementación, podría transformar muchos procedimientos: «Al aplicar técnicas de reconocimiento de voz y análisis de contenido visual, la IA puede transcribir de manera automática todo lo que haya dicho la persona denunciante sin que haya un intermediario que pueda modificar o sustraer datos importantes de su declaración. Ello podría ayudar a preservar la integridad del testimonio de las personas denunciantes y a evitar la revictimización. Además, la IA podría extraer la información de manera automática de los datos audiovisuales y vincularla con otros elementos del caso, enriqueciendo así el proceso de análisis y toma de decisiones judiciales”, comentan Quiroga y Feldfeber.

Actualmente, en el Juzgado 10, la función principal de AymurAI consiste en identificar información relevante en sentencias judiciales haciendo foco en los datos sobre violencia de género, a través de técnicas de Reconocimiento de Entidades Nombradas (NER) que detectan la información y la estructuran en una base de datos. Información que luego una persona corrobora para agregarla al set de datos abiertos.

“Con estas herramientas de apertura de datos buscamos examinar de manera exhaustiva todo el sistema de administración de justicia y su conexión con las políticas públicas, es decir dar vuelta la lente de quién observa a quién. El poder judicial históricamente es asociado con ‘vigilar y castigar’ y en nuestro país y en la región está cubierto por un manto opaco que no deja ver qué están haciendo los jueces en sus cargos”.

Tecnología: más allá de la eficacia

AymurAI fue desarrollada en el marco de una convocatoria realizada por la red global A Plus Alliance para Algoritmos Inclusivos, y por eso su principal foco está puesto en la aplicación responsable de las IA para una justicia abierta con perspectiva de género. En este sentido, su desarrollo no está centrado solamente en la eficacia técnica sino en ejes claves para pensar el rol de la tecnología en su relación con la sociedad.

Esta es una diferencia fundamental con otros casos de implementación de IA en la justicia que proponen como foco la reducción de tiempos de trabajo a través de la automatización. Es el caso de PROMETEA, una IA de Arquitectura en tres capas, enfocada en la automatización de procesos repetitivos desarrollada en el año 2017 por la Fiscalía de la Ciudad Autónoma de Buenos Aires, con apoyo del Banco Interamericano de Desarrollo (BID). Su uso permite la búsqueda de leyes relacionadas con el caso que se está tratando, la predicción del modelo de dictamen jurídico y en base a esto, la redacción del documento completo, reduciendo el tiempo de tratamiento de un caso de tres meses a cinco días.

En el caso de AymurAI, en cambio, sus creadoras destacan que los puntos que guían el desarrollo son los siguientes:

  • La transparencia algorítmica, donde deben ser explicitados, por ejemplo, el modelo de datos que se utiliza para conocer los sesgos que contenga.
  • La supervisión humana es fundamental tanto para el proceso como para revisar sus resultados, deben ser las personas capacitadas quienes guíen a la tecnología y no al revés. “La delimitación puede tomar forma de guías o protocolos, como resultado de una profunda discusión, donde se le dé un marco de actuación y que al mismo tiempo no impida la innovación en la búsqueda de soluciones por parte de las personas que hacen las tareas diarias”, plantea tanto Casas como su equipo.
  • La gobernanza, es decir, el equilibrio en la regulación del anclaje técnico y del trabajo entre Estado, sociedad civil y mercado para el desarrollo social e institucional para establecer los marcos de calidad, anonimidad y accesibilidad de la información de gobierno.
  • La seguridad de los datos, centrado en la protección de los datos personales, como parte integrante de los derechos humanos, se resalta la importancia de anonimizar las sentencias eliminando los datos de las personas involucradas en el conflicto, algo que realizan a través de una herramienta llamada IA2.

Desafíos en el uso de la IA

Al pensar en términos de responsabilidad y legislación hace falta una reforma de las instituciones para albergar esto que ya es una tecnología en uso. Si pensamos en los pasos que harían falta para implementar este tipo de tecnologías, Casas destaca que “es una política que requiere de un gran cambio cultural de las instituciones” y menciona a esta como la primera barrera a sortear a la hora de abordar las propuestas.

“Esto requiere de planificación, capacitación, implementación, control y mejora continua, donde se corrigen los errores, que claro, se cometen. Es dentro de ese proceso donde se van cayendo las resistencias y aparecen los convencimientos en cuanto a la eficacia y mejora en el trabajo, y empiezan a visualizarse oportunidades que ni siquiera imaginamos, como el caso de AymurAI”.

Casas considera de gran importancia la participación de la sociedad civil, la academia, el sector privado y público para desarrollar e implementar este tipo de cambios, remarcando que las instituciones democráticas deben rendir cuentas de su actividad para que puedan estandarizarse criterios de registro y recopilación.

Si consideramos la diversidad en la extensión del territorio argentino, y sus distintas problemáticas, la representatividad es un desafío que requiere de la participación comunitaria para tener en cuenta su perspectiva y necesidades. «Es importante implementar medidas como la recolección exhaustiva y sistemática de datos, la estandarización de los criterios de registro y la colaboración con diferentes jurisdicciones y comunidades».

Es por esto que sería muy importante que la utilización de  AymurAI, se realice a nivel federal: «Además de darnos la posibilidad de conocer cómo son los casos que se dan en un contexto de violencia de género en todo el territorio, ayudaría al cumplimiento de la obligación que se tiene como poder del Estado y sujeto pasivo de cualquier ley de acceso a la información pública a través de la transparencia y la rendición de cuentas”, propone Casas.

LA IA PARA UNA REFORMA JUDICIAL TRANSFEMINISTA

El Juzgado Penal, Contravencional y Faltas N°10 de la Ciudad de Buenos Aires, a cargo de Pablo Casas, viene construyendo una base de datos que ya tiene alrededor de cinco mil sentencias judiciales anonimizadas que datan de agosto de 2016 en adelante. Posee casos de violencia de género y sesenta y cuatro categorías con información de cada sentencia, así como del tipo de violencia sufrida por la víctima en cada caso, según la Ley N° 26.485 de protección integral a las mujeres. También incluye otros datos como las variables socioeconómicas, tipo de vínculo con el acusado o frases utilizadas en las agresiones.
Una propuesta como la de AymurAI resulta fundamental a la hora de pensar una reforma judicial feminista y transfeminista, porque permiten no sólo el armado de estadísticas a través de una vigilancia de los datos sino dar una mirada en profundidad a la problemática a través del uso de la tecnología.

%d