Corte Constitucional lo tiene claro: inteligencia artificial no sustituye al juez
El uso de estas herramientas en la administración de justicia debe respetar los derechos fundamentales y hacerse de manera razonable y ponderada, bajo las cargas de transparencia, responsabilidad y garantía de protección de datos personales.
La Sala Segunda de Revisión conoció la acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas de aquel, debido a la negativa de la entidad de (i) exonerar al niño del pago de cuotas moderadoras y copagos, (ii) cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y (iii) garantizarle un tratamiento integral.
La Corte Constitucional dividió el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. De otra parte, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.
La Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso. Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas. La motivación es otra de las subgarantías del derecho al debido proceso que debe ampararse, ya que el uso de la IA supone el riesgo de alucinaciones, fenómeno que se refiere a información inexacta o falsa que pueden dar lugar a problemas de motivación de la decisión judicial. Además, consideró esencial que los jueces velen porque el tratamiento de la información relativa a los usuarios del sistema judicial se realice con plenas salvaguardas para la data sensible, de forma que el uso de la IA no involucre su derecho a la intimidad y a la privacidad.
La Corte Constitucional concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos.
Con base en lo anterior, al revisar el caso concreto la Sala de Revisión concluyó que no hubo un remplazo de la función judicial por parte de ChatGPT, porque el juez de segunda instancia utilizó esa IA luego de fundamentar y tomar la decisión; solo entonces transcribió las preguntas que hizo en dicha plataforma y las respuestas arrojadas en la consulta. De acuerdo con ello, no se cuestionó la validez de la decisión del juzgado por haber sido tomada con antelación al uso de la herramienta ChatGPT, pese a lo cual, al estudiar la forma en que se utilizó la herramienta, la Corte encontró que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.
¿Cómo se debe usar?
La Corte advirtió que las consideraciones y prevenciones sobre el uso de estas tecnologías frente a una decisión judicial en sede de tutela resultan aplicables en lo pertinente a procesos judiciales de diferente naturaleza, pues el correcto uso de la IA como salvaguarda del debido proceso debe garantizarse en todo tipo de procedimiento, al paso que reconoció los efectos inter comunis de la decisión debido a que, mientras no haya una reglamentación o guía oficial expedida por el Consejo Superior de la Judicatura o una normativa dictada por el Congreso de la República, se deben prevenir las afectaciones del derecho al debido proceso que podría causar el uso indiscriminado de la IA en la actuación judicial.
El veredicto
La Sala encontró que ni el niño ni su madre tienen los recursos económicos suficientes para pagar el valor de los traslados requeridos para acceder al servicio de salud, pues se encuentran en situación de pobreza extrema. Además, la falta de autorización del transporte, debido al diagnóstico que padece el niño, pondría en riesgo su dignidad y estado de salud. Si bien la EPS autorizó el suministro del transporte para la asistencia a las terapias de rehabilitación, no dio la orden respecto a los demás desplazamientos asociados a valoraciones y controles con especialistas y ayudas diagnósticas. Por esa razón, la Corte encontró una deficiencia en el amparo concedido por los jueces de instancia.
Finalmente, sobre el tratamiento integral la Corte advirtió que no se allegó prueba al expediente de que la EPS se haya negado a autorizar alguna orden médica que prescribiera una valoración, tratamiento, servicio asistencial, ayuda diagnóstica, control o cualquier otro parecido para la atención médica del niño, por lo que no se ordenó algo adicional a lo anteriormente señalado.
Por todo lo anterior, la Sala confirmó parcialmente la sentencia de instancia y ordenó el reconocimiento del servicio del transporte para el niño y su acompañante y conminó a las entidades del sistema de salud a que exoneren del pago de copagos y cuotas moderadoras al menor de edad.
Consejo para el sector
De otra parte, exhortó a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.
Para tal fin, los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.
De igual forma, ordenó al Consejo Superior de la Judicatura que adopte una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT. También, que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la providencia a todos los despachos judiciales del país y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial IA en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.
La Corte Constitucional dividió el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. De otra parte, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.
La Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso. Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas. La motivación es otra de las subgarantías del derecho al debido proceso que debe ampararse, ya que el uso de la IA supone el riesgo de alucinaciones, fenómeno que se refiere a información inexacta o falsa que pueden dar lugar a problemas de motivación de la decisión judicial. Además, consideró esencial que los jueces velen porque el tratamiento de la información relativa a los usuarios del sistema judicial se realice con plenas salvaguardas para la data sensible, de forma que el uso de la IA no involucre su derecho a la intimidad y a la privacidad.
La Corte Constitucional concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos.
Con base en lo anterior, al revisar el caso concreto la Sala de Revisión concluyó que no hubo un remplazo de la función judicial por parte de ChatGPT, porque el juez de segunda instancia utilizó esa IA luego de fundamentar y tomar la decisión; solo entonces transcribió las preguntas que hizo en dicha plataforma y las respuestas arrojadas en la consulta. De acuerdo con ello, no se cuestionó la validez de la decisión del juzgado por haber sido tomada con antelación al uso de la herramienta ChatGPT, pese a lo cual, al estudiar la forma en que se utilizó la herramienta, la Corte encontró que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.
¿Cómo se debe usar?
La Corte advirtió que las consideraciones y prevenciones sobre el uso de estas tecnologías frente a una decisión judicial en sede de tutela resultan aplicables en lo pertinente a procesos judiciales de diferente naturaleza, pues el correcto uso de la IA como salvaguarda del debido proceso debe garantizarse en todo tipo de procedimiento, al paso que reconoció los efectos inter comunis de la decisión debido a que, mientras no haya una reglamentación o guía oficial expedida por el Consejo Superior de la Judicatura o una normativa dictada por el Congreso de la República, se deben prevenir las afectaciones del derecho al debido proceso que podría causar el uso indiscriminado de la IA en la actuación judicial.
El veredicto
La Sala encontró que ni el niño ni su madre tienen los recursos económicos suficientes para pagar el valor de los traslados requeridos para acceder al servicio de salud, pues se encuentran en situación de pobreza extrema. Además, la falta de autorización del transporte, debido al diagnóstico que padece el niño, pondría en riesgo su dignidad y estado de salud. Si bien la EPS autorizó el suministro del transporte para la asistencia a las terapias de rehabilitación, no dio la orden respecto a los demás desplazamientos asociados a valoraciones y controles con especialistas y ayudas diagnósticas. Por esa razón, la Corte encontró una deficiencia en el amparo concedido por los jueces de instancia.
Finalmente, sobre el tratamiento integral la Corte advirtió que no se allegó prueba al expediente de que la EPS se haya negado a autorizar alguna orden médica que prescribiera una valoración, tratamiento, servicio asistencial, ayuda diagnóstica, control o cualquier otro parecido para la atención médica del niño, por lo que no se ordenó algo adicional a lo anteriormente señalado.
Por todo lo anterior, la Sala confirmó parcialmente la sentencia de instancia y ordenó el reconocimiento del servicio del transporte para el niño y su acompañante y conminó a las entidades del sistema de salud a que exoneren del pago de copagos y cuotas moderadoras al menor de edad.
Consejo para el sector
De otra parte, exhortó a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.
Para tal fin, los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.
De igual forma, ordenó al Consejo Superior de la Judicatura que adopte una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT. También, que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la providencia a todos los despachos judiciales del país y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial IA en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.
