La IA y la administración pública

Abusando de su paciencia, hoy quiero reflexionar sobre un tema que por lo que veo, empieza por fin a preocupar. Me refiero a la utilización de la IA en las administraciones públicas. Después de muchos años trabajando en lo que hoy se llama "modernización administrativa" y unos cuantos, peleando con la IA con fuego real, me encuentro con que me hacen bastantes preguntas y me cuentan bastantes historias que dan que pensar.

Por un lado, la administración parece estar tratando la IA como a "la nube". Durante muchos años, las administraciones han tenido prohibido usarla; luego, sólo podían usarla si era certificada o interna; y al final, tuvieron una cobertura legal para sacar provecho de ella. Lo que no les ha impedido seguir sin hacerlo... ni las he impedido usarla de modo informal, digamos personal por no decir otra cosa, incluyendo a los más altos niveles.

Por otro, el impacto de la IA es mucho más visible a nivel de calle. La nube quedaba oculta por las aplicaciones; la IA se exhibe por todas partes, y provoca tanta curiosidad como rechazo.

Y finalmente hay otra similitud. La nube, inicialmente, ponía realmente información personal en las manos de personas y empresas que no tenían obligación legal de tratarla como la administración debe asegurar que se trate. La IA, hasta hace poco, tampoco tenía muchos miramientos con la propiedad de la información. Ahora, las empresas serias ya ofrecen niveles de servicio que "garantizan" que los modelos no usan la información de esos clientes para aprender. Sin embargo, pocas o ninguna cumplen el mismo tipo de estándares de privacidad, seguridad, y control del dato que la UE ha exigido a otras empresas de servicios online. Y sigue sin haber un marco legal concreto y claro que la regule, incluso si hubiera empresas dispuestas a obedecerlo.

Hoy la IA, pese a dos buenos esfuerzos locales, es mayormente provincia de dos tipos de jugadores: grandes empresas estadounidenses financiadas con unos niveles de capital que las europeas no pueden ni soñar, y empresas chinas semiestatales que juegan, principalmente (pero no solamente) a "destilar" el producto de las estadounidenses, y a difundir modelos "abiertos" mucho más baratos para hacerse un hueco en el mercado y dañar la capacidad de generar negocio de sus rivales. Eso limita la capacidad de las administraciones europeas, cada vez más sensibles a las dependencias estratégicas: ni unos ni otros son socios de fiar, a día de hoy.

Pero aquí cabe resaltar algo que los chinos han aprendido bien. Para sacar partido de la IA no hace falta contar con "la mejor" tecnología o el modelo más puntero. Lo que hace falta es saber usarla bien. La calidad de todos los modelos irá mejorando, pero hasta los medianos son ya capaces de acelerar tareas repetitivas de modo masivo. No hace falta contar con el "tope de gama actual", Claude Fable 5, para generar una traducción más que digna de un documento administrativo al vasco: un modelo mucho más sencillo (y quizá más especializado, entrenado sobre muestras especificas) podría ayudar a las administraciones que tienen obligación legal de generarlas a reducir más que significativamente sus subcontrataciones en este terreno, o incluso a reubicar a personas mucho más útiles atendiendo al público en los lugares donde se habla.

Lo importante es usarla bien, como cualquier tecnología. Y eso implica no sólo usarla como "copiloto" o muleta para agilizar el trabajo en los puestos actuales, sino repensar los procesos. La cantidad de tareas repetitivas que se pueden eliminar creado un "skill" (en la práctica un programa a la medida que no necesita un desarrollador) es increíble una vez se pone uno a buscarlas. Desde generación de informes que no son más que agregaciones de Excels o conteos, a acciones lanzadas automáticamente cuando se cumplen una serie de criterios. Filtros aplicados sistemáticamente, pero no ciegamente.

Lo que permite la IA es muy amplio, pero en mi opinión, se entiende mejor si la vemos por su nombre original. "Machine learning", aprendizaje automático. Es hacer que tu ordenador no necesite un desarrollador para entender lo que necesitas que haga, para automatizar una tarea. Entiende (si se lo cuentas bien) lo que hace falta, directamente, sin intérprete, y aprende de los resultados.

Los conocidos chats, el uso de agentes, o la llamada al modelo desde un formulario web usando las APIs, son sólo las herramientas. Lo que realmente va a hacer a la administración mucho más eficaz, y a evitarle problemas serios, es revisar sus procesos y procedimientos para usar la tecnología donde conviene y como conviene.

Porque hacerlo mal es un riesgo más que serio. Automatizar decisiones sin supervisión no debe hacerse nunca, pero menos con sistemas que, cuando reciben instrucciones mal dadas o les falta contexto, literalmente alucinan (se inventan) respuestas. Una IA no va a decir "no sé" a menos que le instruyas para que lo diga en casos concretos. Va a responder, con lo que le parezca que tiene sentido. Y tomar esa respuesta sin verificarla, en una administración pública, puede resultar en un desastre o un delito.

En resumen, la IA es una enorme oportunidad para mejorar la calidad y el coste de los servicios que nos damos. Pero no de cualquier manera. Y estamos empezando de cualquier manera.