La IA llega a los tribunales argentinos sin reglas claras de auditoría

La incorporación de sistemas de inteligencia artificial (IA) en el Poder Judicial dejó de ser una promesa futurista para convertirse en una realidad cotidiana en los tribunales argentinos. Sin embargo, detrás del entusiasmo por la automatización de procesos se esconde un escenario complejo caracterizado por marcadas asimetrías provinciales, vacíos reglamentarios y el riesgo latente de delegar decisiones judiciales en algoritmos no auditados.

Para abordar este diagnóstico y trazar hojas de ruta institucionales, el Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés celebró en Buenos Aires una actividad presencial "Redes de justicIA: del diagnóstico a la adopción responsable". El encuentro reunió bajo las reglas Chatham House a referentes de la Corte Suprema de Justicia de la Nación, el Consejo de la Magistratura, poderes judiciales provinciales, el Banco Mundial, la academia y la industria tecnológica.

En este marco se presentaron las conclusiones del Reporte 2025/2026 sobre la adopción responsable de IA en el ámbito judicial. Para profundizar en los hallazgos de esta investigación y conocer los desafíos concretos del ecosistema local, iProfesional entrevistó a Carolina Aguerre, directora del proyecto y codirectora del CETyS, y a María Pilar Llorens, investigadora asociada responsable del reporte argentino del proyecto.

-¿Qué obstáculos concretos encuentran los juzgados argentinos para pasar del marco regulatorio a la implementación efectiva de herramientas de IA?

-María Pilar Llorens: Esta es una excelente pregunta y es una de las que más nos preocupa en la actualidad porque ya existen ejemplos que muestran cómo un mismo reglamento puede ser interpretado de manera distinta por dos instancias judiciales diferentes. Creo que el mayor obstáculo es que las reglas no son lo suficientemente claras y concretas, ya que los marcos establecen estándares o principios en términos amplios pero no dan pautas acerca de cómo deben implementarse en la práctica.

Por ejemplo, la transparencia está presente en la mayoría de las regulaciones existentes. Pero ¿qué significa realmente? ¿Cómo logramos que la transparencia sea efectiva: basta con una mera declaración de que se usó un sistema de inteligencia artificial o es preciso publicar todas las interacciones con el sistema? Estas preguntas, hoy no tienen respuesta y es algo que el ecosistema judicial debe pensar.

-¿Cuál es hoy el nivel real de preparación digital del Poder Judicial argentino y qué plan de acción propone el CETyS para cerrar esa brecha?

-María Pilar Llorens: Creemos que no se puede realizar un análisis uniforme de la Justicia argentina. La realidad muestra que las 25 jurisdicciones que conviven en el país tienen infraestructuras y problemas diversos, por ejemplo: algunas tienen la capacidad de adquirir infraestructura tecnológica para entrenar modelos locales de inteligencia artificial y otras ni siquiera tienen conexión a internet. 

Entre estas dos realidades, existen múltiples variantes. Entiendo que existen un interés real por parte de las diversas jurisdicciones de incorporar tecnologías para mejorar el sistema de justicia, pero existen brechas concretas para que esto suceda.

- Carolina Aguerre: El trabajo del CETyS en esta materia en esta etapa consiste en articular los conocimientos y prácticas que se encuentran hoy distribuidos en diversos actores, no sólo del ámbito judicial propiamente sino del ecosistema tecnológico, de derechos y políticas públicas más amplio que da un marco a la discusión sobre qué significa una adopción responsable de la IA en el sector argentino.

Esta es una línea de acción basada en el trabajo del CETyS como actor referente en Argentina y en la región con dos décadas de trabajo en la consolidación de ecosistemas donde la tecnología, el interés público y las políticas basadas en evidencia se ponen en diálogo.

-¿Existe el riesgo de que se consolide una Justicia "de dos velocidades" en la Argentina, donde las provincias con más recursos adopten IA y las demás queden rezagadas?

-Carolina Aguerre: El debate que quedó plasmado nuevamente en el taller organizado por el CETYS sobre la temática este año vuelve a expresar concretamente esta tensión entre los que tienen mayor interés real en una gobernanza de la adopción de la IA, versus la adopción individual y muchas veces informal.

-María Pilar Llorens: A esto se le suma que la adopción de un marco de regulación sobre el uso de la inteligencia artificial no garantiza que la institución tenga la capacidad de implementarla ni de que exista una utilización responsable, esto exige esfuerzo y recursos para reorientar el trabajo a esta nueva realidad con la IA generativa y agéntica. Además, la disponibilidad de recursos también tiene la potencialidad de reflejarse en los sistemas de inteligencia artificial que se utilicen en cada caso: modelos comerciales gratuitos, modelos comerciales con contratos específicos, diseños locales.

-¿Qué experiencias de otros países de la región pueden servir de referencia para la Argentina, y en qué se diferencia el caso argentino del resto?

-María Pilar Llorens: La experiencia de Brasil es relevante. Si bien la elaboración del marco regulatorio estuvo a cargo del Conselho Nacional de Justiça, este consejo llevó adelante una audiencia pública que permitió a especialistas debatir los riesgos asociados al despliegue de la IA en el Poder Judicial. Esto puede ser una buena referencia para pensar cómo debía encararse la regulación de la inteligencia artificial a nivel judicial, sobre todo porque Brasil tiene un sistema federal donde conviven múltiples jurisdicciones.

El caso argentino se diferencia porque los intentos de regulación se están dando de jurisdicción a jurisdicción. Cada uno de los Poderes Judiciales que considera que necesita regular la cuestión adopta un reglamento interno. Creo que esto es un reflejo de la forma en que están distribuidas las competencias regulatorias en materia procesal en la Constitución.

-Carolina Aguerre: El caso de Brasil permite extraer algunas lecciones, salvando las diferencias con el entramado institucional de Argentina, en la que se generó un comité asesor para la gobernanza de la IA en la justicia a nivel federal que promueve una visión integral del fenómeno.

Más allá que siempre existen luego distancias concretas a la hora de implementar esos marcos, tecnologías y datos en los estados específicos de la federación brasileña, existe un marco común que distingue a otros sistemas judiciales federales como Argentina y México que son los otros dos casos con los que trabaja el CETyS.

-Durante la actividad "Redes de justicIA: del diagnóstico a la adopción responsable", se presentaron recomendaciones del Reporte 2025 "América latina ante la encrucijada de la IA generativa y su adopción responsable en el ámbito judicial". ¿Cuáles son las tres recomendaciones más urgentes para la Argentina y por qué?

-María Pilar Llorens: Todas las recomendaciones de nuestro informe de 2025 se mantienen, aunque si tuviera que elegir tres serían: a) Identificar las necesidades locales; b) Capacitación y c) Definición de roles. La identificación de necesidades locales es el primer paso para poder pensar en estrategias y políticas de implementación y adopción de inteligencia artificial. Creo que la Justicia no termina de conocerse a sí misma y sin este mapeo previo se corre el riesgo de adoptar inteligencia artificial sobre falsas expectativas.

La capacitación y la definición de roles van de la mano y complementan a la recomendación anterior. Una vez que se ha realizado el mapeo previo de las necesidades reales de la Justicia es preciso que se definan con claridad las responsabilidades (y consecuencias) en materia de implementación, adopción y uso de la inteligencia artificial. Además es preciso que los distintos operadores tengan capacitaciones adecuadas para garantizar que las reglamentaciones sean efectivas en la práctica.

-En el taller se advirtió que la supervisión humana debe ser efectiva y no limitarse a convalidar automáticamente lo que sugiere un algoritmo. En la práctica, ¿cómo debería funcionar esa supervisión para que un juez o un funcionario judicial no termine simplemente haciendo "clic en aceptar"?

-María Pilar Llorens: El riesgo del sesgo de automatización es real. Mientras más usamos los sistemas de inteligencia artificial menos tendemos a controlar los resultados que nos devuelve el sistema. Para que la supervisión humana sea efectiva es necesario que el operador sea consciente de lo que está haciendo y eso exige atención en la tarea.

Lamentablemente, dadas las características del sesgo de automatización las únicas alternativas que se me ocurren tienen que ver con el establecimiento de límites técnicos o la implementación de salvaguardas para prevenir que el operador "copie y pegue" los resultados del sistema.

-Carolina Aguerre: Un mecanismo adicional que se discutió en el taller, y que pone en evidencia esta problemática, es la necesidad de desarrollar no sólo habilidades sino capacidades reales entre los empleados y funcionarios del sistema judicial para entender y apropiarse críticamente de estos sistemas.

Esta mirada crítica está orientada a conocer cómo funcionan estos sistemas, incluyendo sus modelos y datos, y a desarrollar capacidades que permitan adaptar esos textos al contexto de aplicación local, esto es, los casos de personas reales en las jurisdicciones competentes y atadas a las normas jurídicas propias.

-Se planteó la urgencia de estructurar sistemas de auditoría interna y externa para las herramientas de IA en tribunales. ¿Quién debería auditar, con qué frecuencia y bajo qué estándares? ¿Existe hoy algún modelo de auditoría que funcione en la región?

-Carolina Aguerre: Hay varios niveles de auditoría comprendidos en un sistema de IA. El propiamente técnico, correspondiente al artefacto tecnológico en sí mismo, el que incluye la perspectiva del sistema inserto en el juzgado concreto y su jurisdicción correspondiente que incluye sistemas de revisión del flujo de trabajo concreto y para el cual deben generarse las competencias necesarias dentro de cada jurisdicción para evaluar sus características específicas.

A nivel internacional ya existen diversas guías e instrumentos que son bases relevantes para la construcción de los sistemas de auditoría específicos que cada sistema judicial debe desarrollar, desde el CEPEJ en Europa (2018) y más recientemente las guías de UNESCO (2025) para la adopción responsable de sistemas de IA en la justicia.

Las auditorías reales son poco frecuentes. La evidencia más sólida proviene de auditorías externas dirigidas por periodistas o investigadores como el conocido caso del sistema COMPAS o del sistema VICTOR en Brasil. Las auditorías institucionales formales siguen no sólo en América latina sino a nivel internacional todavía declaraciones de interés más que prácticas reales.

Un trabajo de Caputo (2026) de la Universidad de Oxford señala el imperativo de modernizar el derecho administrativo a las nuevas capacidades y desafíos a la rendición de cuentas que la IA introduce en el trabajo judicial.

-El debate sobre ética algorítmica y límites de la automatización frente al debido proceso fue uno de los ejes del encuentro. Para un ciudadano común que litiga en la Justicia argentina, ¿cuáles son los riesgos más inmediatos de una adopción de IA mal implementada?

-María Pilar Llorens: Uno de los riesgos más inmediatos es ni siquiera conocer que el caso se decidió utilizando un sistema de inteligencia artificial. A ello se suma que no existen reglas claras relativas a la posibilidad de impugnar esta clase de decisión.

-El Reporte 2025 aborda el caso argentino como estudio regional. ¿Qué hallazgos las sorprendieron durante la investigación y qué dato o conclusión creen que todo lector interesado en el cruce entre tecnología y Justicia debería conocer?

-María Pilar Llorens: Uno de los datos que más me sorprendió en 2025 fue el "silencio" que existía y todavía existe alrededor del uso de estas tecnologías. Esperaba que hubiera más reacciones institucionales (de los colegios profesionales o de los propios poderes judiciales) que plantearan argumentos a favor y en contra de la inteligencia artificial. No esperaba la pasividad con la que me encontré a nivel general.

Es fundamental que cualquier lector interesado en la intersección de la tecnología y la Justicia sepa que la tecnología no es neutra. Que el uso de inteligencia artificial tiene consecuencias en el proceso y que va a impactar en los derechos humanos. Cómo se produce el impacto y cómo minimizar los aspectos negativos es algo que debería debatir el ecosistema judicial.