Inserte emoji levantando los hombros porque, a veces, a veces, no sabe uno qué decir. Así que probablemente lo mejor sea decirlo tan directamente como podamos: Colombia es, por cuenta de un juez de Cartagena, el primer país que conozcamos en el que una corte invoca la ‘opinión’ de ChatGPT a la hora de dictar una sentencia.
Es una historia tan extraña, que para ilustrarla le pedimos las fotos a Midjourney.
El prelado en cuestión es Juan Manuel Padilla García, del Juzgado Primero Laboral del Circuito de Cartagena, que al momento de resolver una tutela invocó la Ley 2213 de 2022, que tiene por objeto la incorporación de las TIC en los procesos judiciales. El asunto es que para incorporar las TIC, el juez optó por plantear apartes del problema jurídico en cuestión al popular servicio de chat basado en IA ChatGPT.
Ya hemos hablado antes de ChatGPT, de su capacidad para escribir textos coherentes en cosa de segundos y de por qué debería preocupar a Google. También mencionamos su propensión a cometer errores simples y entregarlos como parte de sus respuestas de manera asertiva y convincente.
Por eso, aunque en principio la idea de incorporar tecnología en el proceso parezca loable, la iniciativa del juez parece, cuanto menos, desinformada.
El juizgado es contundente en señalar que “el propósito de incluir estos textos producto de la IA no es en manera alguna reemplazar la decisión del Juez. Lo que realmente buscamos es optimizar los tiempos empleados en redacción de sentencias, previa corroboración de la información suministrada por IA”.
Sin embargo, sectores de la opinión pública y de la Academia ven con preocupación que un juzgado haga uso de un chatbot para resolverá adicionar los fundamentos de la resolución del caso a partir de la construcción de textos realizada por la IA.
‘Urge alfabetización digital’
El caso del que se ocupa la sentencia debía resolver una tutela que buscaba obligar a la EPS Salud Total garantizar el derecho a la salud a un niño con autismo. El caso ganó notoriedad por el hilo que publicó en Twitter Juan David Gutiérrez, profesor asociado de la Facultad de Estudios Internacionales, Políticos y Urbanos de la Universidad del Rosario.
El profesor se dijo preocupado por el uso de ChatGPT para motivar la decisión y explicó que es sabido que puede dar respuestas distintas a la misma pregunta o citar fuentes que no existen porque, sencillamente, no distingue realidad de ficción.
Algunos ejemplos de los intercambios entre el juzgado y la IA -consignados en el texto oficial de la sentencia de segunda instancia- muestran al primero preguntando:
“¿Un menor autista está exonerado de pagar cuotas moderadoras en sus terapias?”, a lo que chatGPT responde: “Sí, es correcto. De acuerdo con la normativa en Colombia, los menores con diagnóstico de autismo están exonerados de pagar cuotas moderadoras en sus terapias. Este beneficuento está regulado por la Ley 1753 de 2015 y se aplica a todas las instituciones prestadoras de servicios de salud públicas o privadas que reciban recursos del sistema general de seguridad social en salud”.
Cuando Xataka Colombia hizo la misma pregunta, ChatGPT indicó que sí, pero se mostró menos categórico y sugirió “verificar con el proveedor de atención médica o consultar con el seguro de salud”. Como señala el profesor, el juzgado no corroboró las fuentes citadas por la IA.
Otra pregunta del juzgado fue si exigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud. La ‘opinión’ de la IA es: “Sí, en algunos casos, la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso al servicio de salud para personas con diagnóstico de autismo, especialmente si tienen dificultades para obtener ingresos o si su situación económica es precaria. La exigencia de pagar cuotas moderadoras puede impedir o dificultar el acceso a tratamientos y terapias esenciales para el bienestar y desarrollo de los niños con autismo. Por esta razón, la normativa en Colombia exime a los menores con diagnóstico de autismo de pagar cuotas moderadoras en sus terapias, con el objetivo de garantizar el acceso a estos servicios de salud esenciales sin obstáculos financieros.
En uno de sus trinos, el profesor Gutiérrez dice: “Mi punto no es que no se pueda usar IA generativa, como #ChatGPT, para realizar actividades asociadas con escritura, pero ciertamente no es responsable ni ético usar #ChatGPT como pretendió el Juez de la sentencia en cuestión. Urge la alfabetización digital de los jueces”.
Desde la cuenta de Twitter de la clase de Responsabilidad Civil de la Facultad de Ciencias Jurídicas de la Universidad Javeriana se planteó este interrogante: ¿Veremos a jueces preguntándole a #ChatGPT cómo fundamentar una sentencia de responsabilidad civil en Colombia? Parece inverosímil considerarlo, pero en nuestra cultura jurídica, donde estamos desligados de criterios de racionalidad en la toma de decisiones, todo podría pasar”.
Ver todos los comentarios en https://www.xataka.com.co
VER 0 Comentario