León XIV, Andrés Pedreño y la IA

Con muy pocos días de diferencia han coincido dos importantes documentos sobre la inteligencia artificial que precisamente está entrando en una nueva etapa marcada por la autonomía, la colaboración entre agentes y la transformación profunda de los procesos económicos, empresariales y administrativos. El primero de ellos ha sido, nada más y nada menos, que la primera Encíclica del Papa León XIV, "Magnifica humanitas". Justo al cumplirse el 135 aniversario de la "Rerum Novarum", el actual Pontífice reflexiona sobre la doctrina social de la Iglesia en la era de la IA y hace un llamamiento a custodiar "una magnífica humanidad habitada por Dios", promoviendo la verdad, la dignidad del trabajo, la justicia social y la paz.

Dividida en cinco capítulos, más una introducción y una conclusión, "Magnifica humanitas" parte de una premisa: la tecnología no es una "fuerza antagónica respecto a la persona", ni «un mal en sí misma". Sin embargo, "no es neutra, porque asume el rostro de quien la concibe, la financia, la regula y la utiliza". De ahí el llamamiento del Pontífice a "construir en el bien" y a "permanecer humanos", siguiendo la lógica de la corresponsabilidad valiente, de la subsidiariedad, de la comunión, para que "el mundo pueda reconocer… en el corazón del ser humano el lugar donde Dios desea habitar". Subraya también Prevost que, en la era digital, es necesario desarmar la IA y superar la teoría de la "guerra justa", relanzando el diálogo y el multilateralismo.

El otro importante documento -en este caso, laico pero con referencias a la Santísima Trinidad- surge en el mismo contexto y es una de las obras más recientes sobre esta materia. Su título es "IA autónoma y sistemas multiagente: Cómo los agentes redefinen la economía, el trabajo y la burocracia zero-click". Nacida en la factoría Torre Juana que comanda el economista y emprendedor Andrés Pedreño. Junto al exrector de la UA son también autores los ingenieros Andrés Desantes de Mergelina y Joaquín Pedreño, con prólogo de José Vicente Morote, presidente de Andersen Iberia.

Esta publicación es fruto de la experiencia acumulada por 1MillionBot, VersasKy, y el Observatorio IA en el desarrollo de soluciones avanzadas de inteligencia artificial, así como de la reflexión sobre los cambios tecnológicos y organizativos que ya comienzan a transformar empresas, instituciones y universidades.

El panorama de la inteligencia artificial ha dejado de ser puramente conversacional. Tras la explosión de la IA generativa, el ecosistema tecnológico afronta su evolución más profunda: la era agéntica, en la que los sistemas no solo responden preguntas, sino que razonan, planifican, interactúan con el mundo real y toman decisiones de forma autónoma.

La salvaguardias adecuadas en la IA

El acto de presentación del libro se celebró en la sede universitaria Ciudad de Alicante de la UA y contó con la participación de la rectora, Amparo Navarro Faure y el socio director de Legaltech en Andersen, Carlos Rodríguez Sau. Éste abrió el turno de intervenciones, aportando la perspectiva legal y recordando que el problema de la autonomía no es nuevo. Ya en la antigua Roma, si un ciudadano soltaba un animal y este causaba daños, la responsabilidad recaía sobre el propietario por no haberle puesto una correa. Con los agentes de IA ocurre exactamente lo mismo: esa correa son los guardarraíles normativos, y quien los omita no podrá alegar ignorancia. “Cuando se suelte una IA, nadie podrá escudarse en la ignorancia si no se fijaron las salvaguardias adecuadas”, afirmó Carlos Rodríguez.

La advertencia tiene cifras concretas. Con los nuevos proyectos europeos de buen gobierno de la IA, las empresas que operen sistemas multiagente sin la debida supervisión humana podrían enfrentarse a sanciones de entre 500.000 euros y el 7 por ciento de su facturación global.

Andrés Desantes explicó cómo ese arnés normativo se traduce en ingeniería de software. Recurriendo a la cultura pop, señaló que la verdadera revolución de la IA no es la armadura física de Iron Man, sino Jarvis: la inteligencia que coordina sistemas y actúa en tiempo real. Los modelos de lenguaje son solo el cerebro; lo que importa es la arquitectura que los rodea —memoria, contexto y permisos—, porque un error de diseño puede tener consecuencias graves: desde la inyección de instrucciones fraudulentas en procesos judiciales hasta el borrado accidental de bases de datos.

Para evitarlo, el libro defiende el uso de agentes híbridos basados en dos principios: el de mínimo privilegio y dar a la IA acceso solo a los datos estrictamente necesarios y el de mínima agencia; es decir, otorgar autonomía únicamente donde aporte un valor real y seguro.

"La mayor revolución de nuestro tiempo"

Andrés Pedreño ofreció una reflexión económica y filosófica sobre el momento actual. Comparó la evolución tecnológica con una trinidad: el cerebro biológico como el Padre, el algoritmo como el Hijo, y la fusión de talento e inversión multimillonaria como el Espíritu Santo que lo impulsa todo.

Subrayó a continuación Pedreño las cifras vertiginosas de la industria, con inversiones masivas de EE. UU. y China orientadas a alcanzar la Inteligencia Artificial General, y destacó que los modelos actuales ya han aprendido a mejorarse a sí mismos. Su mensaje fue de valentía colectiva "del mismo modo que las primeras comunidades humanas se quemaron con el fuego pero aprendieron a dominarlo, hoy toca asumir riesgos controlados y mantener una mente abierta ante la mayor revolución de nuestro tiempo".

La rectora de la Universidad de Alicante, Amparo Navarro, fue la encargada de cerrar el acto, destacando la calidad y el carácter visionario de los autores. Como jurista y gestora académica, planteó la urgencia de replantear el modelo educativo: en un entorno donde cualquier estudiante puede acceder al conocimiento de un profesor en cualquier momento y lugar, la institución debe dar un giro radical hacia la enseñanza de la responsabilidad, la conciencia crítica, los valores constitucionales y la ética.

En ese mismo sentido, señaló que dado que la IA ya es capaz de resolver cuestiones de derecho positivo o diseñar estrategias procesales, lo verdaderamente diferencial de la formación universitaria ya no puede ser la transmisión de conocimiento técnico, sino la formación de personas íntegras y responsables. "La IA ya puede resolver el derecho positivo o buscar la mejor estrategia procesal. El foco educativo debe girar hacia la responsabilidad, los valores y la ética", concluyó la rectora.

La obra -que no es un manual técnico al uso, sino una hoja de ruta estratégica y jurídica para empresas e instituciones- analiza el impacto de la IA agéntica y de los sistemas multiagente en ámbitos tan diversos como la productividad empresarial, la organización del trabajo, la prestación de servicios públicos y la evolución de la economía digital. A través de una visión divulgativa y estratégica, el libro explora cómo los agentes inteligentes están configurando una nueva generación de sistemas capaces de ejecutar tareas complejas, coordinarse entre sí y reducir drásticamente la fricción burocrática mediante modelos de interacción "zero-click".