El Constitucional frena la inteligencia artificial en los tribunales: estas son las líneas rojas que no piensa cruzar

La inteligencia artificial empieza a abrirse paso en la Administración de Justicia, pero el Tribunal Constitucional tiene claro que hay una frontera que no está dispuesto a traspasar: dejar en manos de una máquina decisiones que corresponden exclusivamente a los magistrados. El órgano de garantías ha optado por un modelo mucho más prudente, en el que la tecnología sirva para agilizar el trabajo jurídico, pero nunca para sustituir la deliberación judicial.

Así lo ha explicado Juan Carlos Campo Moreno, magistrado del Constitucional y responsable de impulsar su transformación digital, que ha detallado los planes del tribunal para incorporar herramientas de inteligencia artificial. La apuesta pasa por utilizar estos sistemas en labores instrumentales, como la búsqueda de jurisprudencia, la elaboración de resúmenes, la localización de resoluciones del Tribunal Europeo de Derechos Humanos y la consulta de artículos doctrinales.

El planteamiento tiene una limitación fundamental: la IA no podrá intervenir en la decisión de los procedimientos. «Tenemos claro que no podemos permitirnos una inteligencia artificial que no garantice la defensa de los derechos fundamentales», ha advertido Campo.

El Constitucional rechaza que una máquina filtre los recursos de amparo

Una de las propuestas que llegó al Pleno gubernativo del Tribunal Constitucional planteaba utilizar inteligencia artificial para realizar el primer filtro de todas las demandas de amparo. La iniciativa fue rechazada por unanimidad, al entender los magistrados que una tarea de semejante trascendencia no puede quedar en manos de un sistema automatizado.

La admisión de estos recursos exige cumplir los requisitos del artículo 50.1 de la Ley Orgánica del Tribunal Constitucional (LOTC). Entre ellos figura la existencia de una especial trascendencia constitucional, además de una apariencia de vulneración de un derecho fundamental.

El problema, según el criterio expuesto por Campo, es que un detalle aparentemente menor puede cambiar por completo la interpretación de un asunto. Por eso, la valoración debe corresponder al colegio de magistrados y realizarse mediante deliberación conjunta.

El Constitucional quiere evitar especialmente los modelos de caja negra, en los que no es posible conocer con claridad cómo se obtiene un resultado. Entre los peligros identificados figuran la opacidad de los algoritmos, los posibles sesgos estructurales y la dificultad para determinar quién asume la responsabilidad cuando una herramienta tecnológica interviene en una tarea jurídica.

Seguridad de los datos y una IA bajo control

La protección de la información es otro de los grandes obstáculos que el tribunal quiere resolver antes de implantar estas herramientas. Su intención es disponer de una inteligencia artificial «absolutamente encapsulada», con garantías sobre el lugar en el que se almacenan los documentos, el destino de los datos y las condiciones de seguridad de los servicios en la nube.

«Si una empresa necesita seguridad, el tribunal necesita todavía más», resume Campo.

La previsión es contar con un sistema propio o con proveedores externos que acrediten las garantías necesarias en la primavera de 2027. Una comisión integrada por letrados será la encargada de estudiar las posibilidades de automatización y establecer qué tareas pueden realizarse con ayuda de la inteligencia artificial.

El proyecto llega después de un proceso de modernización que comenzó por cuestiones aparentemente más básicas. En el pleno gubernativo se constató que el tribunal carecía de una programación tecnológica específica, por lo que se establecieron dos prioridades: el expediente electrónico y la firma digital, implantada hace algo más de dos años. Hasta entonces, los magistrados todavía firmaban los documentos a mano.

Como antecedente de modernización, Campo ha recordado el Plan Adriano, el programa de informatización de la Justicia andaluza que comenzó en 1997, tras la asunción de competencias autonómicas en esta materia.

Las alucinaciones de la IA ya han llegado a los escritos judiciales

La prudencia del Constitucional también tiene una explicación práctica. El equipo de letrados ha detectado una demanda de amparo en la que las fechas y las sentencias citadas no se correspondían con el contenido de las resoluciones a las que supuestamente hacían referencia.

El episodio pone sobre la mesa uno de los problemas más delicados de la inteligencia artificial generativa: su capacidad para producir información aparentemente convincente que, sin embargo, puede contener errores o referencias inexistentes o incorrectas.

Para el tribunal, la responsabilidad de comprobar la exactitud de los escritos sigue correspondiendo a quien los presenta. La utilización de una herramienta tecnológica no exime de verificar las fuentes ni permite delegar el rigor jurídico en un generador automático de textos.

Una posición más restrictiva que la del Tribunal Supremo

El Tribunal Supremo ya trabaja con herramientas de resumen documental facilitadas por el Ministerio de Justicia. Campo considera que esta experiencia constituye una primera fase de incorporación de la inteligencia artificial a la actividad judicial.

Sin embargo, el Constitucional pretende avanzar con mayores cautelas. La razón está en la naturaleza de su función: interpretar la norma fundamental y resolver cuestiones que afectan directamente al alcance de los derechos y libertades reconocidos en la Constitución.

La posición del tribunal establece así una distinción entre utilizar la inteligencia artificial para ahorrar tiempo en tareas documentales y permitir que influya en el contenido de una resolución judicial.

La eficiencia tecnológica tiene cabida en la Justicia, pero no puede convertirse en un objetivo que desplace las garantías procesales. El Constitucional quiere modernizar su funcionamiento, aunque con una condición innegociable: ninguna máquina puede sustituir la responsabilidad, el razonamiento jurídico y la deliberación de los magistrados.