Regulaciones para la IA Generativa en el Sistema Judicial

¿Cuáles son los retos y beneficios del uso de IA en este poder público?

A partir del 16 de diciembre de 2024, entró en vigor el Acuerdo PCSJA24-12243, mediante el cual el Consejo Superior de la Judicatura estableció reglas y lineamientos para el uso de herramientas de Inteligencia Artificial (IA) en la Rama Judicial de Colombia. Estas directrices buscan garantizar un aprovechamiento respetuoso, responsable, seguro y ético de la IA en la Administración de Justicia.

Diana Alexandra Remolina Botía, presidenta del Consejo Superior de la Judicatura, destacó que estos lineamientos representan “el primer impulso al uso de la IA con autocontrol”, aunque aclaró que deben evolucionar conforme avancen la tecnología, la normatividad y la jurisprudencia”.

#Atención 🚨 | El Consejo Superior de la Judicatura adoptó los lineamientos para el uso responsable y seguro de la Inteligencia Artificial en la Rama Judicial👨🏻‍⚖️👩🏽‍⚖️

Más información AQUÍ ➡️ https://t.co/UngZ2wOAEP pic.twitter.com/kVITWU0Uct

— Rama Judicial (@judicaturacsj) December 18, 2024

El Acuerdo establece tres categorías principales para el uso de IA en las funciones judiciales:

• Gestión administrativa o de soporte: Optimización de procesos administrativos y apoyo a la gestión judicial.
• Usos con revisión detallada: Verificación minuciosa de los productos y resultados antes de su utilización o interpretación.
• Usos que requieren altos estándares éticos: Aplicaciones que demandan un estricto cumplimiento de los deberes de transparencia, responsabilidad y protección de la privacidad.

https://actosadministrativos.ramajudicial.gov.co/web/Acto%20Administrativo/Default.aspx?ID=19280

La adopción de estos lineamientos impulsa una justicia más ágil, manteniendo la imparcialidad e independencia. Los servidores judiciales deben informarse sobre las funcionalidades, limitaciones, riesgos y manejo de los datos de las herramientas de IA, además de controlar y verificar su fiabilidad.

Se establecieron deberes específicos para el uso de la IA, incluyendo la obligación de informar explícitamente su utilización en cualquier expediente, carpeta, actuación, documento o decisión judicial. Esto incluye detallar el nombre de la herramienta, el modelo, la empresa proveedora, la fecha de uso, y la confirmación de que los términos y condiciones fueron comprendidos y aceptados.

La Unidad de Transformación Digital e Informática (UTDI) y las dependencias que implementen proyectos basados en IA generativa deberán validar el cumplimiento de estas pautas. Asimismo, la Escuela Judicial Rodrigo Lara Bonilla, con el apoyo de la UTDI, desarrollará un plan de formación para el aprendizaje y fortalecimiento de competencias digitales.

El Acuerdo aplica a magistrados, jueces, empleados de todas las jurisdicciones y especialidades, así como a los directores y empleados administrativos de la Rama Judicial, con el fin de maximizar los beneficios y potencialidades de las tecnologías de IA en el sistema de justicia.

Sala digital Colmundo