Algorithmic Transparency in the Judicial Function

Clasificación OCDE (Fields of Science and Technology): 5.5 Derecho.

El artículo analiza el uso de inteligencia artificial generativa en la función jurisdiccional peruana y sostiene que la reducción de costos de producción de las decisiones judiciales puede generar externalidades negativas cuando el empleo de esas herramientas permanece oculto. La congestión procesal y la búsqueda de eficiencia explican la adopción, pero la opacidad profundiza la asimetría informativa entre el juez, que conoce el proceso interno de su decisión, y las partes, que no pueden observarlo. El estudio distingue información de conocimiento, recupera la diferencia aristotélica entre téchne y phrónesis y examina el concepto de proferencia para ubicar la conciencia de la decisión. Analiza además el fenómeno del learning penalty y el sesgo de automatización, y compara el panorama peruano con el Reglamento de IA de la Unión Europea y con las reglas éticas del Poder Judicial de Costa Rica. Concluye que la transparencia no es un formalismo, sino una condición para que la eficiencia no se obtenga a costa de la legitimidad de la decisión.

Palabras clave: transparencia algorítmica; inteligencia artificial; función jurisdiccional; asimetría informativa; Perú

The article analyzes the use of generative artificial intelligence in Peru's judicial function and argues that reducing the production costs of judicial decisions can generate negative externalities when the use of those tools remains hidden. Procedural congestion and the search for efficiency explain adoption, but opacity deepens the information asymmetry between the judge, who knows the internal process of the decision, and the parties, who cannot observe it. The study distinguishes information from knowledge, recovers the Aristotelian difference between téchne and phrónesis and examines the concept of proferencia to locate the consciousness of the decision. It also analyzes the learning penalty and automation bias, and compares the Peruvian landscape with the European Union's AI Regulation and the ethical rules of the Costa Rican Judiciary. It concludes that transparency is not a formality but a condition for efficiency not to be obtained at the expense of the legitimacy of the decision.

Keywords: Algorithmic transparency; artificial intelligence; judicial function; information asymmetry; Peru.

El sistema de administración de justicia en el Perú enfrenta una congestión procesal persistente que compromete la efectividad de la tutela jurisdiccional. En este escenario, la irrupción de la inteligencia artificial (IA) generativa y de herramientas de procesamiento de lenguaje natural se presenta como un vector de innovación capaz de reducir los costos de producción de las decisiones judiciales. No obstante, desde la perspectiva del Análisis Económico del Derecho (AED), esta búsqueda de eficiencia operativa mediante la automatización entraña un riesgo moral y genera asimetrías informativas severas entre el juzgador y las partes procesales.

Cuando el magistrado recurre de forma opaca a algoritmos generativos para la redacción o fundamentación de resoluciones, la ganancia de velocidad inmediata puede derivar en externalidades negativas de alto impacto: alucinaciones normativas o jurisprudenciales, sesgos de automatización y una eventual delegación del juicio humano. El presente artículo examina la necesidad de establecer un deber regulatorio de declaración obligatoria y explícita cuando se emplee IA en la emisión de sentencias en el Perú. Se sostiene que la transparencia algorítmica no constituye un mero formalismo, sino un mecanismo institucional indispensable para corregir asimetrías de información, internalizar los costos de verificación y preservar la confianza pública como un bien de capital social.

En la relación entre la sociedad (y las partes litigantes) y el Poder Judicial se configura una estructura principal-agente. El juez (agente) posee un acceso privilegiado sobre el proceso interno de elaboración de sus decisiones que las partes (principales) no pueden observar de manera directa. Cuando el juez emplea herramientas externas de IA no declaradas, se profundiza la asimetría informativa. Al reducirse sustancialmente el costo marginal de redacción mediante modelos generativos, surge un incentivo perverso al riesgo moral: delegar la revisión sustancial del material probatorio y jurisprudencial en el software para maximizar la producción resolutiva, transfiriendo el costo de detectar eventuales alucinaciones algorítmicas a las partes procesales a través de la vía impugnatoria.

A partir de la tipología del conocimiento, es crucial distinguir entre la téchnē entendida como la destreza técnica de procesamiento, sistematización y estructuración de textos legales y la phrónesis la prudencia o sabiduría práctica requerida para sopesar valores, valorar la prueba conforme a la sana crítica y determinar el sentido de la justicia en el caso concreto. La IA generativa opera con notable eficiencia en la esfera de la téchnē, reconfigurando y sintetizando información estática. Sin embargo, carece de phrónesis, atributo exclusivo del juzgador. Confundir la capacidad de síntesis estadística con el juicio deliberativo humano representa un fallo de mercado del conocimiento jurídico.

En la epistemología social, un enunciado solo adquiere la condición de conocimiento legítimo cuando es evaluado y refrendado de manera deliberada por una mente consciente (concepto de proferencia). Las salidas emitidas por modelos algorítmicos no constituyen sentencias, sino cadenas de datos estadísticos estructurados. Si el magistrado incorpora estos resultados a la resolución sin un proceso explícito de verificación y apropiación crítica, se produce un quebrantamiento de la proferencia, privando a la decisión judicial de su legitimidad epistemológica y de su fundamentación constitucional (Broncano Rodríguez, 1999).

Para delimitar la contribución real de la tecnología algorítmica frente al razonamiento judicial, es necesario diferenciar los atributos de la información y del conocimiento dentro del proceso probatorio y de motivación:

Información: posee un carácter estático, explicitable, altamente duplicable y neutro. Comprende los insumos normativos, la jurisprudencia sistematizada y las transcripciones de actas o audiencias. En este ámbito, la IA reduce drásticamente los costos de búsqueda y filtro (Nonaka & Takeuchi, 1995).

Conocimiento judicial: posee un carácter dinámico, tácito, fuertemente contextual y prudencial. Exige la valoración conjunta de las pruebas, la empatía institucional y la asignación de consecuencias jurídicas bajo estándares de certidumbre o duda razonable.

La delegación acrítica ocurre cuando la información procesada por la máquina es asumida como sustituto automático del conocimiento judicial. Esta confusión incrementa la probabilidad de incurrir en errores de justificación externa e interna de la premisa jurídica, derivando en vicios de motivación aparente o fabulada.

En la literatura sobre economía del comportamiento e interacción humano-máquina, la transferencia desmedida de tareas analíticas hacia sistemas automatizados produce dos efectos deletéreos:

Sesgo de automatización (automation bias): la tendencia sistemática de los operadores a sobreconfiar en las recomendaciones de los sistemas automatizados, omitiendo el contraste o la verificación independiente (American Bar Association, 2024).

Penalización del aprendizaje (learning penalty): evidencia empírica reciente sobre adopción tecnológica muestra que la externalización pasiva de procesos cognitivos puede generar una atrofia de las habilidades analíticas complejas. Un estudio de Strömberg et al. (2026) sobre estudiantes de secundaria en China encontró que el acceso irrestricto a herramientas de IA generativa para tareas escolares se asoció con una reducción en el rendimiento de aprendizaje medido por exámenes, un efecto que los autores denominan "penalización del aprendizaje".

Trasladado a la magistratura, la dependencia de borradores generados por IA sin control rígido menoscaba la aptitud del juez para detectar inconsistencias sutiles o sesgos algorítmicos. En términos económicos, la ganancia inmediata de velocidad se contrarresta con una degradación sostenida de la calidad del capital humano judicial.

Desde el enfoque de Coase (1960), la disminución de los costos operativos internos del despacho judicial mediante IA no es eficiente si traslada costos de transacción superiores a las partes o al sistema en general (costos de revisión, apelaciones por nulidad, retrasos derivados de nuevos juicios y pérdida de credibilidad institucional).

Uso opaco de IA judicial	Uso transparente y reglado
Reducción costo interno privado	Costo marginal de declaración
Elevadas externalidades negativas	Reducción asimetría informativa
Generación de 'Learning Penalty'	Trazabilidad y menor litigio
Alto riesgo de nulidades procesales	Preservación de confianza pública

Elaboración propia.

El ordenamiento peruano cuenta con la Ley N.º 31814 (2023) y su Reglamento, aprobado mediante Decreto Supremo N.º 115-2025-PCM, publicado el 9 de septiembre de 2025. Dicho marco adopta una clasificación basada en riesgos. El Poder Judicial ha promovido herramientas oficiales de asistencia como Amauta.Pro, un asistente virtual basado en IA desarrollado por la Corte Superior de Justicia de Lima Norte para optimizar la emisión de resoluciones en casos de violencia contra la mujer y grupos vulnerables. Asimismo, se ha implementado Curia, un asistente de IA generativa que analiza expedientes judiciales e identifica normas aplicables, concebido como una herramienta de apoyo que não sustituye la labor jurisdiccional.

A pesar de estos avances, persiste un vacío normativo específico sobre el deber individual del juez de declarar en el texto de la resolución si utilizó herramientas de IA generativa abiertas o no institucionales para la elaboración del fallo.

Unión Europea: El Reglamento (UE) 2024/1689 (AI Act) clasifica en su Anexo III, punto 8.a), los sistemas de IA destinados a ser utilizados por autoridades judiciales para la interpretación de hechos y de Derecho como de alto riesgo, imponiendo obligaciones rigurosas de transparencia, trazabilidad y supervisión humana efectiva.

Costa Rica: La Circular N.º 31-2026 del Poder Judicial, emitida el 20 de febrero de 2026, establece reglas y lineamientos éticos para el uso de inteligencia artificial generativa por parte de las personas servidoras judiciales. Dispone que la IA es una herramienta de apoyo que nunca sustituye el criterio humano y que la responsabilidad final recae exclusivamente en la persona servidora que firma la resolución.

Colombia: La Sentencia T-323 de 2024 de la Corte Constitucional examinó el uso de IA generativa en la motivación de una sentencia y concluyó que su utilización no vulnera el debido proceso siempre que no remplace al juez en la toma de decisiones y exista supervisión humana. En desarrollo de este fallo, el Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura, del 16 de diciembre de 2024, adoptó lineamientos para el uso respetuoso, responsable, seguro y ético de la IA en la Rama Judicial, aplicables a magistrados, jueces y empleados judiciales.

Frente al dilema entre la automatización ciega y la atrofia del juicio jurisprudencial, se impone el principio de soberanía tecnológica en la judicatura. Este postulado exige que las herramientas digitales permanezcan subordinadas a las garantías constitucionales de motivación (art. 139.5 de la Constitución Política del Perú), independencia (art. 139.2) y derecho de defensa (art. 139.14).

El magistrado debe evolucionar de un redactor de texto plano hacia un curador de lógica y verificador formal de la decisión. La declaración obligatoria del uso de IA en las sentencias actúa como el mecanismo de señalización que internaliza la responsabilidad funcional.

Inclusión explícita de la cláusula de uso: toda sentencia debe incluir una sección estandarizada señalando la utilización o no de IA generativa (indicando sistema, versión y alcance del procesamiento).

Deber ineludible de verificación directa: obligación formal del juez de contrastar cada cita jurisprudencial, normativa y doctrinaria con las bases de datos oficiales.

Prohibición de datos sensibles en entornos abiertos: incompatibilidad estricta entre la introducción de datos personales o reservados de los procesos (Ley N.º 29733) y el uso de modelos de lenguaje comerciales no institucionales.

Tipificación disciplinaria: considerar infracción a los deberes de la función judicial la omisión de la declaración de uso o la delegación de la fundamentación sustancial.

Incentivos eficientes: La declaración obligatoria del uso de IA en las sentencias alinea los incentivos del juzgador con las garantías constitucionales, desincentivando la delegación pasiva y mitigando el riesgo de alucinaciones algorítmicas.

Reducción de costos de transacción: La transparencia algorítmica reduce la asimetría de información procesal, permitiendo a las partes ejercitar de forma eficiente el derecho de defensa e impugnación sin recurrir a costosas pericias de detección ex post.

Preservación de la phrónesis: La administración de justicia exige el ejercicio irrenunciable del criterio prudencial y consciente del magistrado humano. La tecnología debe actuar exclusivamente como una herramienta de soporte analítico (téchnē) subordinada al control y responsabilidad del operador jurídico.

American Bar Association. (2024). Formal Opinion 512: Generative Artificial Intelligence Tools. Standing Committee on Ethics and Professional Responsibility. https://www.americanbar.org/content/dam/aba/administrative/professional_responsibility/ethics-opinions/aba-formal-opinion-512.pdf

Broncano Rodríguez, F. (1999). Epistemología social y consenso en la ciencia. Crítica: Revista Hispanoamericana de Filosofía, 31(92), 3 – 36.

Coase, R. H. (1960). The problem of social cost. Journal of Law and Economics, 3, 1 – 44. https://doi.org/10.1086/466560

Consejo Superior de la Judicatura de Colombia. (2024). Acuerdo PCSJA24-12243: Lineamientos para el uso y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial. https://www.ramajudicial.gov.co/documents/2314946/161170215/CSJCUC24-333.pdf/c1c1fa8e-8812-2d35-717f-169c6906a444

Corte Constitucional de Colombia. (2024). Sentencia T-323 de 2024 (M.P. Juan Carlos Cortés González). https://www.corteconstitucional.gov.co/relatoria/2024/T-323-24.htm

Decreto Supremo N.º 115-2025-PCM. (2025, 9 de septiembre). Reglamento de la Ley N.º 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Diario Oficial El Peruano. https://www.gob.pe/institucion/pcm/normas-legales/7133522-115-2025-pcm

Ley N.º 29733. (2011, 3 de julio). Ley de Protección de Datos Personales. Diario Oficial El Peruano.

Ley N.º 31814. (2023, 5 de julio). Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Diario Oficial El Peruano. https://www.gob.pe/institucion/pcm/normas-legales/4567890-31814

Nonaka, I., & Takeuchi, H. (1995). The knowledge-creating company: How Japanese companies create the dynamics of innovation. Oxford University Press.

Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de IA). Diario Oficial de la Unión Europea, L 2024/1689. https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Poder Judicial de Costa Rica. (2026). Circular N.º 31-2026: Reglas y lineamientos éticos para el uso de Inteligencia Artificial Generativa (ChatGPT, Gemini y NotebookLM) por parte de las personas servidoras judiciales. https://nexuspj.poder-judicial.go.cr/document/avi-1-0003-15389

Strömberg, D., Lei, V., & Wu, Y. (2026). The generative AI learning penalty: Evidence from Chinese secondary education (CEPR Discussion Paper No. 21577). Centre for Economic Policy Research. https://cepr.org/publications/dp21577