Un Problema Más Allá del Poder Judicial

El reciente episodio en la Corte de Apelaciones de Santiago pone de manifiesto un desafío crítico que va más allá del ámbito judicial: la desconexión entre la regulación del uso de la inteligencia artificial y la gestión efectiva de sus riesgos.

Controversia por la Sentencia Judicial

La controversia surgió a raíz de la publicación de una sentencia que incluía un prompt, o instrucciones para una herramienta de inteligencia artificial. Este hecho ha suscitado serias dudas sobre la implementación de tecnologías en el sistema de justicia.

Sin embargo, lo que realmente debería captar nuestra atención no es el error en sí, sino el hecho de que el Poder Judicial ya contaba con reglas para abordar los riesgos asociados al uso de la inteligencia artificial.

Código de Ética Judicial y su Aplicación

Con la aprobación del Acta N.º 244-2025, la Corte Suprema estableció un Código de Ética Judicial que incluye un apartado específico sobre el uso de inteligencia artificial, resaltando que la decisión jurisdiccional debe ser, ante todo, humana e intransferible.

Más recientemente, el 11 de agosto de 2026, se emitieron orientaciones para el uso adecuado de estas tecnologías, que incluyen requerimientos de supervisión humana, verificación de resultados y mecanismos de control, lo que indica que las pautas ya existían antes del incidente.

La Última Milla en Compliance Tecnológico

Un concepto fascinante que emerge en este contexto es el de la «última milla». Este término, que proviene de diversas disciplinas, hace referencia a la fase final en la que los procedimientos, tecnologías y protocolos deben traducirse en resultados concretos. En el ámbito del compliance y la inteligencia artificial, esto representa el momento en que las políticas diseñadas deben funcionar efectivamente, especialmente cuando los riesgos son inminentes.

En el caso judicial mencionado, instrucciones que no tenían relación con la resolución fueron incluidas en un documento firmado electrónicamente por dos Ministros de Corte y una abogada, y publicado oficialmente. Esto no implica necesariamente que la decisión haya sido delegada a la inteligencia artificial, ni permite anticipar responsabilidades individuales, pero sí plantea una pregunta crucial: ¿qué controles debieron existir antes de la firma y publicación del documento para evitar este resultado?

Reflexiones sobre la Gobernanza Tecnológica

Esta es una cuestión que cualquier organización que aspire a implementar un sistema de compliance efectivo debería considerar. Actualmente, las empresas utilizan inteligencia artificial para una variedad de funciones, desde el análisis de contratos hasta la detección de riesgos de corrupción. Simultáneamente, desarrollan políticas y protocolos para regular su uso, pero la existencia de estas normas no garantiza su efectividad en la práctica.

Una organización puede tener una política de inteligencia artificial robusta y, sin embargo, no contar con controles que verifiquen su efectividad. Puede institucionalizar la supervisión humana, pero convertirla en una firma automática. Esta es la verdadera falla de la última milla: tener políticas en papel que no se implementan en la práctica.

Lecciones Aprendidas

El episodio judicial en cuestión no debería llevar a la desconfianza hacia la inteligencia artificial. Al contrario, representa una oportunidad para reflexionar sobre la gobernanza tecnológica, la responsabilidad de los usuarios y la necesidad de controles adecuados. La inteligencia artificial tiene el potencial de enriquecer procesos, pero no puede sustituir el juicio crítico humano ni la responsabilidad de verificar resultados.

El verdadero reto del compliance no radica solo en redactar buenas normas, sino en asegurar que estas se implementen eficazmente cuando más se requieren. Los sistemas de control no solo fallan por la falta de reglas, sino también cuando, a pesar de tenerlas, se ignoran los procedimientos en la práctica.