Abogado inventó sentencias con ChatGPT y el Consejo de Estado fijó reglas para usar la inteligencia artificial en la justicia: qué se puede hacer y qué no

El Consejo de Estado fijó reglas para usar inteligencia artificial en la justicia a partir de un expediente en el que un abogado citó sentencias inexistentes generadas con ChatGPT, una decisión que busca evitar errores, proteger la seguridad jurídica y mantener bajo control humano las decisiones judiciales.

La medida surgió durante el estudio de un recurso extraordinario de unificación de jurisprudencia, cuando los recurrentes sostenían que una decisión judicial había desconocido precedentes de la corporación.

Al revisar las providencias citadas, el tribunal encontró que varias no existían o no correspondían a los datos incluidos en el expediente.

La Relatoría de la Sección Tercera del Consejo de Estado hizo las verificaciones y concluyó que no era posible localizar las sentencias invocadas.

A partir de ese hallazgo, la Sala desarrolló una reflexión sobre los riesgos del uso de herramientas de inteligencia artificial generativa en actuaciones judiciales.

La respuesta central del tribunal fue directa: la inteligencia artificial puede servir de apoyo para buscar, organizar y procesar información, pero no reemplaza el deber de verificar los datos ni la responsabilidad de jueces y abogados sobre lo que presentan o deciden.

Uno de los ejes de la providencia es el fenómeno de las “alucinaciones”, la expresión que se usa para describir los casos en que sistemas de inteligencia artificial producen información aparentemente correcta, coherente y convincente, pero sin respaldo real.

Según la providencia, herramientas como ChatGPT, Claude o Gemini pueden generar referencias jurídicas, normas o decisiones judiciales que parecen auténticas aunque nunca hayan existido. Por eso, el tribunal advirtió que ninguna información obtenida por esa vía puede asumirse automáticamente como verdadera.

La corporación señaló que la capacidad de estos sistemas para redactar textos fluidos y bien estructurados puede crear una falsa sensación de confiabilidad. Por esa razón, exigió que cualquier dato sea sometido a verificación antes de ser usado en documentos oficiales o actuaciones judiciales.

“Su utilización sólo resulta admisible bajo una premisa esencial: administrar justicia es una función indelegable y toda decisión judicial debe emanar, siempre, del discernimiento autónomo, razonado y responsable de quien ejerce jurisdicción. La inteligencia artificial no decide, no valora pruebas, no interpreta el derecho con autoridad judicial ni responde por las consecuencias de una providencia; esa responsabilidad recae exclusivamente en el juez”, señaló el Consejo de Estado.

Debido al caso que motivó la decisión, el Consejo de Estado ordenó remitir copia del expediente a la Comisión Seccional de Disciplina Judicial de Bogotá para que evalúe una posible conducta disciplinaria relacionada con las referencias jurisprudenciales inexistentes.

Esa remisión no constituye una sanción inmediata. Lo que abre es una actuación para que la autoridad competente examine el comportamiento procesal observado durante el trámite del recurso.

La providencia dejó claro que el uso de inteligencia artificial no elimina las obligaciones profesionales de quienes intervienen en procesos judiciales. Según la corporación, los abogados conservan el deber de actuar con diligencia, buena fe y lealtad procesal, de modo que la responsabilidad sigue recayendo en quien firma y presenta los documentos.

El tribunal también fijó un límite para la judicatura: los jueces no pueden delegar en estas herramientas la valoración de pruebas, la interpretación de los hechos ni la adopción de decisiones judiciales. La providencia recordó que la función jurisdiccional es indelegable.

La decisión no prohíbe la incorporación de estas tecnologías. Reconoce, por el contrario, que ya son usadas con frecuencia por profesionales de distintas áreas para búsquedas de información, redacción de documentos y apoyo a la investigación, y que en el ámbito jurídico pueden facilitar tareas sobre grandes volúmenes de datos.

El fallo también expresó reservas sobre los programas diseñados para detectar si un texto fue elaborado con inteligencia artificial. Según la providencia, esas herramientas todavía tienen limitaciones de precisión y confiabilidad que impiden darles un valor determinante dentro de actuaciones judiciales.

La advertencia del tribunal se inserta en un debate más amplio dentro de la administración de justicia sobre los límites, riesgos y responsabilidades que acompañan el uso de estas plataformas.

La posición del Consejo de Estado es que la tecnología puede ayudar a reducir tiempos y apoyar tareas técnicas, pero la decisión judicial y la validación de la información siguen siendo funciones humanas.