CNJ aprueba resolución que regula el uso de IA en el Poder Judicial

conjur - Después de recibir contribuciones de la sociedad brasileña a lo largo de un año, el Pleno del Consejo Nacional de Justicia aprobó este martes (18/2) el conjunto de reglas que orientarán la conducta en el uso de la inteligencia artificial en todo el Poder Judicial.

Informado por el concejal Luiz Fernando Bandeira de Mello, el Acto Normativo 0000563-47.2025.2.00.0000 fue aprobado por unanimidad durante la 1ª Sesión Extraordinaria de 2025. El nuevo reglamento actualiza el Resolución CNJ 332/2020, que hace cinco años diseñó los primeros parámetros para el uso de IA por parte de los tribunales brasileños.

El texto aprobado recibió sugerencias hasta el último momento, y según el presidente del Consejo Nacional de Justicia (CNJ) y del Supremo Tribunal Federal, el magistrado Luís Roberto Barroso, se permitirán correcciones o actualizaciones hasta que la regulación entre en vigor en 120 días. Barroso señaló que regular el tema no es tarea fácil, dado el rápido ritmo de los cambios tecnológicos, pero enfatizó el carácter democrático del marco regulatorio.

El concejal Bandeira coordinó el grupo de trabajo, celebró audiencias públicas y escuchó diversos segmentos. Presentó esta propuesta de resolución, emitió su voto en la última sesión y tuvimos la oportunidad de discutir algunos aspectos de la misma.

La nueva resolución, como enfatizó Barroso, es el resultado de un esfuerzo colectivo. Basada en un borrador preparado por el grupo de trabajo establecido por Ordenanza CNJ 338/2023Bajo la coordinación de Bandeira de Mello, se recibieron contribuciones de los orientadores.

La norma proporciona directrices, requisitos y una estructura de gobernanza para el desarrollo, el uso y la auditabilidad de las herramientas de inteligencia artificial en el sistema judicial, garantizando el cumplimiento de los estándares éticos, la protección de datos personales, la mitigación de riesgos y la supervisión humana en el uso de estas tecnologías. En el documento, el relator también destacó el objetivo de promover el uso de la IA en el Poder Judicial de forma segura y ética, garantizando la transparencia y la trazabilidad de las decisiones automatizadas.

“Se destacan la supervisión humana obligatoria, la clasificación de los sistemas de IA según nivel de riesgo (bajo o alto), la implementación de auditorías periódicas y el fortalecimiento de la Plataforma Sinapses para compartir soluciones institucionales”, señala el texto, que también señala la creación del Comité Nacional de Inteligencia Artificial, responsable de monitorear y actualizar las directrices para el uso de la tecnología, garantizar la gobernanza digital y el cumplimiento de los estándares internacionales.

Contribuciones 

Al presentar el documento final, Bandeira de Mello destacó las contribuciones de cada uno de sus colegas. Según él, se realizaron ajustes en materia de publicidad y transparencia. Gracias a las incorporaciones, también se avanzó en la contabilidad, de acuerdo con la normativa vigente en materia de la Plataforma Digital del Poder Judicial (PDPJ); la disciplina de tags y los marcadores que se insertarán en el sistema de inteligencia artificial de los tribunales; y preocupaciones presupuestarias.

Tras una declaración conjunta de Barroso y otros cinco miembros del consejo, también se modificaron la composición del comité, que también redefinió sus funciones y responsabilidades. Otro aspecto importante fue que, con base en el nuevo texto, el grupo evaluará la pertinencia de utilizar soluciones de IA, en lugar de limitarse a prohibirlas, como se indica en el borrador.

También se plantearon inquietudes respecto a la soberanía y la alfabetización digital; la accesibilidad de los documentos para personas con discapacidad; el uso de la IA en soluciones de seguridad pública; el desarrollo de API (interfaces de programación vinculadas a soluciones de IA); la frecuencia de las auditorías y el monitoreo; y el establecimiento de estándares mínimos de transparencia y protocolos estandarizados para las auditorías. Otra preocupación fue el uso de un lenguaje sencillo en las comunicaciones, uno de los pilares de la administración Barroso.

Así que pudimos abordar todas estas preocupaciones, todas legítimas y justas. Fue un esfuerzo colectivo. Hice todo lo posible por intentar construir este consenso, y es muy posible que tengamos que ajustar algo, ya sea en los próximos meses o en los próximos años. No debemos temer eso", afirmó el ponente, quien cree que el objetivo de la norma era utilizar los parámetros de las mejores regulaciones internacionales en la materia.