La Inteligencia Artificial está de moda. No hay día en el que en cualquier medio de comunicación no veamos una noticia sobre las novedades tecnológicas que acaban de aparecer, los puestos de trabajo que van a desaparecer y las inimaginables cosas que se podrán hacer con ChatGPT, Gemini, Copilot o cualquier otra IA que se nos ocurra.
Esta realidad afecta tanto al sector público como al privado, pero desde el público es importante no dejarse deslumbrar por los brillos de estas novedades, y reflexionar seriamente sobre cómo va a impactar la IA en la gestión pública, qué usos pueden ser reales en este momento, quién se va a ocupar, y cómo se va a hacer. Es decir, diseñar una hoja de ruta para comenzar, en serio y ordenadamente, a integrar la IA en la gestión pública, como una herramienta más, o quizás no como una más, sino como una clave en la consecución de objetivos que se han convertido ya en el unicornio de la administración, como son la simplificación y reducción de cargas administrativas. La reciente aprobación de la Estrategia Nacional de Inteligencia Artificial 2024 (ENIA 2024) en Consejo de Ministros de 14 de mayo de 2024 ha actualizado las bases del desarrollo en el sector público, si bien centrado en el ámbito estatal.
Pero antes de abordar cómo hacerlo, con una propuesta concreta y aterrizada, considero necesario realizar una reflexión previa. Desde el año 2015, en realidad desde el 2007, si tomamos de referencia la Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los Servicios Públicos, el funcionamiento electrónico de todas las administraciones públicas es una obligación legal. Pero, a pesar del tiempo transcurrido desde la aprobación de la Ley 39/2015, de 1 de octubre, de Procedimiento Administrativo Común de las Administraciones Públicas y la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, y su posterior desarrollo por Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos, todavía no podemos decir que se haya conseguido completar el proceso de transformación digital. Y eso es lo primero, lo más importante, lo más básico, siguiendo la teoría de la pirámide de Maslow. Porque pensar en IA sin haber completado el proceso de transformación digital, sin llevar a cabo una gestión basada en datos, en datos de calidad, la incursión en el mundo de la IA no pasará de ser una mera anécdota, y no siempre exitosa.
Para ello, a lo largo de las próximas páginas iremos desgranando el decálogo básico para la implantación de la Inteligencia Artificial, que será de utilidad para cualquier entidad del sector público, pero que, en este caso en particular, detallaremos en atención a las peculiaridades de las entidades que integran la Administración local y que, por supuesto, podrá ser objeto de personalización para cada entidad.
1. Diseñar y establecer un modelo de gobernanza adecuado
Como en todo nuevo reto y desafío la pregunta clave es ¿Quién se ocupa? Esa es, para mí, la primera regla, no sólo en materia de IA, en cualquier tarea. Identificar a las personas en la organización que, por su posición y conocimientos pueda liderar e impulsar el proceso de reflexión, primero, de planificación y acción, después. Estamos ante una auténtica transformación, la ya conocida como cuarta revolución industrial, y como toda transformación sin una buena gobernanza no saldrá bien. Gobernanza que, en este caso, requiere del doble plano que caracteriza a las entidades del sector público, y que se maximiza en el ámbito local: los planos político y técnico.
Por una parte, el político, que debe ser consciente de las ventajas, internas y externas, que presenta la IA en su gestión, decisiones bien informadas, transparencia, eficacia, simplificación, eficiencia, rendición de cuentas, etc. Por otra parte, el técnico, si es posible a nivel de dirección, para enhebrar el hilo de la tecnología en la aguja de la burocracia, de la mentalidad administrativa. Será clave conformar equipos multidisciplinares, que comprendan el alcance de este escenario, y las nuevas realidades, liderado por aquéllos que tienen la capacidad de contribuir precisamente a construir las nuevas realidades y a guiar el camino con un propósito. No se puede abordar esta materia sin tocar el papel de los funcionarios de administración local con habilitación de carácter nacional, a los que habitualmente les toca asumir todas las nuevas funciones que aparecen y a los que, por su posición natural en la organización, les corresponde impulsar las transformaciones. Evidentemente no se tratará de una gestión en solitario, pues estos retos requieren de conocimiento compartido y multidisciplinar.
En el ámbito privado se ha procedido ya a la creación de un nuevo puesto de trabajo con estas funciones, el conocido como CAIO (Chief Artificial Intelligence Officer) y que emula otras figuras precedentes como el Data Protección Officer (Delegado de Protección de Datos), sin perjuicio de las existentes en el ámbito privado. Un puesto desde el que, entre otras competencias, se encontrarían las de asesorar internamente en la implementación de soluciones basadas en IA o en el desarrollo de proyectos que incorporen tal tecnología.
Ya existen algunas iniciativas, como la política de gobernanza de IA, en desarrollo de la orden ejecutiva 14110 sobre el desarrollo y uso de una IA segura y confiable, emitida el pasado mes de octubre por el presidente Biden, se trata del MemorandumAdvancing Governance, Innovation, and Risk Management for Agency Use of Artificial Intelligence. Entre otras medidas, contempla la figura del CAIO (2) , y dispone que en un plazo de 60 días a partir de la fecha de publicación de este memorando el director de cada organismo debe designar un Director de Inteligencia Artificial (CAIO).
En el ámbito del Estado, se ha creado recientemente la Comisión Interministerial para la coordinación y el seguimiento de las medidas a favor de la conectividad y la digitalización de la economía y la sociedad en el ámbito de la Administración General del Estado, cuya presidencia corresponde a la persona titular de la Secretaría de Estado de Digitalización e Inteligencia Artificia
2. Reflexionar y planificar los posibles usos de la IA. Método RPA
Las Administraciones Públicas, y las Entidades locales por extensión, son early adopters de las tendencias que generan más impacto mediático y social, y que, en consecuencia, pueden concentrar titulares de prensa. En el ámbito local, podemos citar un ejemplo concreto, como es el de las smart cities, pues más allá de algunas experiencias destacadas, en muchos casos fue una burbuja de innovación, mucho plan para acabar instalando simplemente unos sensores. Por eso debemos pensar, reflexionar y después poner las ideas en algún tipo de instrumento crítico y realista, en el que analicemos los riesgos y las oportunidades de uso de la IA en el respectivo ámbito de gestión.
¿Qué instrumento debemos utilizar? El nombre es indiferente y será cada entidad la que decida la dimensión que deba alcanzar, hoja de ruta, estrategia, plan de implantación, lo importante es lo subyacente, iniciar un proceso de reflexión sobre cómo abordar los retos y desafíos derivados de la IA y plasmarlo en un instrumento formal que sirva de camino. Podemos llamarle Estrategia de IA, Plan de implantación de la IA, o cualquiera de las fórmulas con las que el Sector Público suele abordar los nuevos retos y desafíos. Pero debemos tener ese proceso de reflexión en el que nos planteemos el por qué y para qué queremos la tecnología, su misión en la organización y la visión que ésta tiene, y así definir la hoja de ruta, planificar. Ojo. No es necesario aprobar tediosos documentos de más de 100 páginas que generan mucha literatura y poca acción. Porque el propósito es la acción, es aplicar el método RPA (no confundir con el acrónimo de Robotic Process Automation), sino a Reflexionar, Planificar y Actuar.
Como hemos visto, disponemos de una Estrategia a nivel nacional (ENIA 2024) que se enmarca en el Componente 16 del Plan de Recuperación, Transformación y Resiliencia, incorporando, frente a la anterior, las novedades que se producen continuamente en un ámbito sometido a una vertiginosa evolución. La Estrategia de Inteligencia Artificial 2024 está estructurada en 3 ejes que activarán 8 palancas de acción:
- — Eje 1: Refuerzo de las capacidades para el desarrollo de la IA
- — Eje 2: Facilitar la aplicación de la IA en el sector público y privado
- — Eje 3: Fomentar una IA transparente, ética y humanística
Entre las 8 palancas, se contempla expresamente la Palanca 5: Impulsar la IA en el sector público, que contempla a su vez diversas iniciativas
- — Iniciativa 5.1. Incubadora de casos de uso para la AGE
- — Iniciativa 5.2. Servicios comunes basados en modelos de IA en la AGE
- — Iniciativa 5.3. Gobernanza común de datos de la AGE
Si bien, como podemos observar, estas iniciativas se centran en la AGE, podrán servir de modelo e inspiración para su réplica y el traslado del aprendizaje que se derive de las mismas al ámbito local.
3. Reconfigurar los instrumentos de organización de RRHH
La asignación de recursos humanos y su organización en las entidades del sector público se lleva a cabo a través de los distintos instrumentos existentes, plantillas, relaciones de puestos de trabajo, catálogos, etc. Pero estos instrumentos, por distintas razones, carecen en muchos casos de utilidad real para afrontar los retos y desafíos actuales de la gestión pública. Razones que van desde la petrificación de los mismos, sin apenas cambios desde los años 90, a su percepción como vía para la mejora retributiva, o la tensión que experimenta como consecuencia de la negociación sindical. De hecho, se plantean más como un obstáculo al momento transformador y a la innovación, que una herramienta de gestión con la que afrontar los retos y desafíos actuales.
No obstante, y mientras no se modifique el actual marco regulatorio será preciso optimizar las posibilidades que presentan los mismos, pues aunque una mirada a las ofertas de empleo público no permita apreciar sustanciales novedades, resulta necesario abrir el foco y empezar a crear otras figuras en las plantillas, vinculadas a las nuevas dimensiones que exige la IA. Técnicos legaltech, gestores éticos de datos, diseño de servicios digitales, responsables de la gestión de usuarios, etc., a pesar del tiempo transcurrido no es habitual encontrar estos puestos en las RPTs.
De ahí que el momento actual, fuertemente marcado por una transición generacional, en el que se están produciendo jubilaciones masivas en el empleo público, se presente como oportunidad única para revisar en profundidad las necesidades de presente y de futuro, desde una reflexión serena, pero crítica, sobre el papel de los instrumentos de ordenación de RRHH en su actual configuración y pensar qué puestos serán a extinguir, cuáles deben ser modificados en su configuración y qué nuevos puestos necesitamos crear. La automatización de tareas repetitivas es el ejemplo paradigmático en relación a los posibles usos de la IA en la gestión pública y que debería impactar de forma directa en las plantillas municipales, plagadas de puestos de auxiliares administrativos.
4. Evaluar el cumplimiento de las obligaciones legales, en especial, las derivadas del RIA
Aunque no seamos totalmente conscientes de ello, en España ya disponemos de un marco legal en materia de IA, tanto con carácter básicos Ya existe un marco legal. Escaso, pero existe. Unas (pocas) normas que se ocupan de este tema. De forma principal, en el sector público, el art. 41 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público (LRJSP) en relación con las Actuaciones Administrativas Automatizadas, y el art. 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, que recoge la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio de los algoritmos.
Pero el despliegue normativo europeo, con el RIA, define ya una serie de tareas muy relevantes, tanto para diseñadores como para responsables del despliegue de los sistemas de IA, condición que corresponderá a las entidades locales. Porque el Sector Público será usuario y prestador de servicios de IA, responsables del despliegue de la IA y, por tanto, de los resultados de salida. El enfoque basado en riesgos del RIA nos obliga a cambiar la forma reactiva de actuar, pensemos, uso de datos biométricos por la policía, seguridad, transporte, gestión del agua, residuos, movilidad, educación, sanidad, etc. Pensemos por un instante en todos los ámbitos de actuación del sector público, y el riesgo que puede derivar un uso irresponsable de la IA para los derechos de las personas.
Es decir, lo primero que se exige en el recurso a la IA es una evaluación de riesgos para determinar la categorización del uso del sistema de IA, saber cuáles pueden ser los daños que se produzcan en los derechos y libertades de las personas, en el mercado, etc., siguiendo la clasificación de sistemas de IA
- — Sistemas de IA de riesgo inaceptable
- — Sistemas de IA de alto riesgo
- — Sistemas de IA de riesgo limitado
- — Sistemas de IA de riesgo mínimo
Y en función del diagnóstico diseñar un sistema de gestión de esos riesgos, preservando las garantías jurídicas y el buen funcionamiento de las instituciones. Se trata de cambiar el foco, a la prevención, tal y como dispone el Compliance, de realizar una proyección de futuro y gestionar los posibles escenarios de daños para evitarlos, pero para ello debe existir la consciencia y el conocimiento necesario dentro de la organización para saber que antes de poner en marcha cualquier iniciativa en la materia será preciso realizar esta evaluación.
5. Aprobar un código ético o de conducta en el uso de la IA
¿Cuántas personas están en la actualidad usando la IA generativa en el desempeño de sus tareas en la administración pública ? En estos momentos, está siendo relativamente frecuente el recurso a Chat GPT para la elaboración de bases de subvenciones, pliegos de contratación, bases de selección de personal, pruebas selectivas, informes, estadísticas, y mucho más. El uso de la IA en sí mismo no es un peligro, y no debemos pensar en prohibirlo, pero su uso por personas sin competencias adecuadas, sin transparencia y haciendo que la institución asuma los grandes riesgos que esto supone representa una realidad inasumible. Porque el refuerzo de la integridad y contar con una IA ética y robusta es una constante desde las Directrices éticas para una IA fiable (Comisión Europea, 2019) y el Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza, Bruselas, 19.2.2020 COM(2020) 65 final, que ahora tiene su máximo exponente en el Reglamento de Inteligencia Artificial. La IA solo tiene cabida en la gestión pública si es ética y confiable, si responde a los estándares de integridad establecidos.
Por eso resulta conveniente contar con herramientas internas que fijen la hoja de ruta, y criterios de la respectiva entidad en el uso de la IA, a modo de código de conducta (que el RIA exige para el sector privado). Sólo de este modo evitaremos riesgos que van desde la protección de datos, a la vulneración de los derechos de las personas más vulnerables. Los sesgos de la IA, la (des) protección de los derechos y libertades de las personas es un grave riesgo que el Sector público no puede afrontar, para ello será necesario fijar los criterios que deben guiar el uso de la IA. Cada entidad debe asumir la responsabilidad de fijar aquellos criterios que se adapten al tipo de organización, personal y servicios que presta, en una buena práctica asimilable con el Compliance. Se trata de una responsabilidad que la entidad no puede ignorar, la de asegurar el cumplimiento normativo, desde la prevención da igual que se llame código ético, de conducta, guía de buenas prácticas, se trata de contar con una orientación clara y precisa.
6. Analizar las opciones de adquisición de tecnología
Una de las mayores dificultades existentes en la actualidad es cómo comprar tecnología, y máxime en el ámbito local, donde, por las dimensiones de la planta local, resulta complejo contar con expertos internos que puedan facilitar dicha tarea. Expertos que ayuden en la primera toma de decisión, la relativa a cuál es la tecnología que necesitamos (no la que queremos, para evitar ser víctimas de capturas mediáticas y con glamour), y, sobre todo, si estamos en condiciones para adquirirla en el marco de una buena decisión de gestión. La siguiente toma de decisión sería cómo lo hacemos, hay que evitar el riesgo de que la falta de conocimiento experto y la necesidad de resolver el expediente pueda conducir al recurso del copia y pega sin más reflexión o incluso al propio ChatGPT, para buscar unos pliegos que nos permitan licitar.
En mi opinión, en el ámbito local la respuesta pasará en la mayoría de los casos por las Diputaciones Provinciales, que en ejercicio de sus competencias propias en el ámbito de la administración electrónica y de la compra centralizada debería asumir el liderazgo en esta cuestión. Asistencia que debería extenderse también a la ejecución del contrato, pues una vez adjudicado se planteará una nueva problemática, el control de la ejecución del contrato,
¿Quién será el responsable? Es preciso huir de precedentes de contratos sin control, y en manos de las empresas, o lo que es peor, de empresas sin ningún tipo de ética, de capturas tecnológicas. Se utiliza mucho la expresión de madurez digital, pues tendremos que esperar a que la institución esté madura, a que sea el momento oportuno, y para ello aplicar, de nuevo, método RPA, reflexionar, planificar y sólo si el escenario de presente y de futuro lo aconseja avanzar en la contratación de IA para la entidad.
7. Formación, concienciación y comunicación
Directamente relacionado con todo lo anterior, la formación de las personas involucradas en los procesos es la base de cualquier avance en la gestión del cambio, de todas las transformaciones y novedades que atraviesan este S XXI. De ahí que, como señalamos en la reflexión previa, si todavía no hemos finalizado el proceso de transformación digital sería inteligente dejar reposar las iniciativas de avanzar en IA. La gestión del cambio, por un lado, para conseguir que las personas que apenas usaban los ordenadores como máquinas de escribir avanzadas, pasen a interiorizar las oportunidades de la IA en el desempeño de sus tareas habituales, es, sin duda, uno de los mayores retos a abordar.
Y por supuesto, la captación de talento necesario para el desarrollo de este nuevo modelo de gestión, pero no sólo captar talento sino también de cuidar el existente, para ello, mediante de upskilling y reskilling para que los servidores públicos estén preparados para afrontar los retos y las oportunidades que ofrece esta tecnología disruptiva, que tiene un gran potencial para transformar los servicios públicos y mejorar la calidad de vida de los ciudadanos. La formación y capacitación en competencias digitales será fundamental, siguiendo el marco aprobado por el INAP, Competencias Digitales de las Empleadas y los Empleados Públicos, que contempla específicamente competencias en IA, tanto en relación a la creación de contenido, como a la automatización de tareas repetitivas, la capacidad de analizar grandes volúmenes de datos o la personalización de los servicios al ciudadano.
Formación de verdad, que permita comprender el nuevo escenario, combinando la IA y las soft skills, asegurar que el uso de la tecnología se realizará con todas las garantías debidas, pero sobre todo que veamos cómo usarla. En este contexto, la comunicación y divulgación de los estándares éticos o códigos de conducta será fundamental, el propio marco competencial del INAP recoge la inclusión de una competencia específica sobre el uso ético y responsable de la IA, que abarca aspectos como la privacidad, la transparencia, la equidad y la rendición de cuentas.
8. Garantizar la transparencia y rendición de cuentas
El marco legal y la realidad imponen transparencia algorítmica y rendición de cuentas, debemos ser conscientes de ello. Pensemos que el uso anárquico actual está impidiendo, en muchos casos, las debidas garantías, tanto a nivel interno como externo. La ciudadanía a la que se prestan los servicios y a las que debe garantizarse la protección de derechos y libertades debe saber en todo momento cuándo en su relación con la administración se han convertido en tres y cómo ha influido la tecnología en la decisión final ¿Por qué me han denegado la ayuda? Recordemos ya el precedente del art. 22 RGPD, relativo a las decisiones individuales automatizadas, incluida la elaboración de perfiles, que reconoce el derecho de todo interesado a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar, con las excepciones contempladas en su apartado 2.
Partiendo de la premisa de la necesaria supervisión humana como un eje fundamental en el uso de la IA en la gestión pública, debemos recordar que la explicabilidad es uno de los principios clave, la transparencia algorítmica, con las herramientas de registros de algoritmos. La transparencia definida por el Grupo de Expertos e incorporada en el RIA, exige que los sistemas de IA se desarrollen y utilicen de un modo que permita una trazabilidad y explicabilidad adecuadas. Que, al mismo tiempo, haga que las personas sean conscientes de que se comunican o interactúan con un sistema de IA e informe debidamente a los responsables del despliegue acerca de las capacidades y limitaciones de dicho sistema de IA y a las personas afectadas acerca de sus derechos.
Es fundamental llevar a cabo un adecuado ejercicio de transparencia y rendición de cuentas para evitar casos como el sucedido en Países Bajos, en los que el Gobierno utilizaba un algoritmo para para evaluar el riesgo de fraude a la seguridad social o a hacienda, y que fue declarado contrario a la Ley. El tribunal distrito de La Haya (Rechtbank Den Haag), ha dictado una sentencia, de fecha 5 de febrero de 2020, en la que se concluye que no cumple las exigencias de proporcionalidad y transparencia necesarias y vulnera las previsiones sobre respeto a la vida privada, reconocido en el que reconoce el artículo 8 del Convenio Europeo de Derechos Humanos. Fue la primera sentencia conocida en Europa por la se declara ilegal un algoritmo sobre evaluación de características personales de los ciudadanos.
9. Poner a las personas en el centro
El uso de la tecnología, también de la IA, tiene un carácter meramente instrumental, en este caso en particular, para la mejora de la gestión pública. Lo verdaderamente relevante en este proceso de implantación es poner a las personas en el centro, tanto desde un punto de vista interno como externo. Por una parte, asegurarnos que tomamos en cuenta a todas las personas implicadas, a los empleados públicos afectados por el despliegue de la tecnología en cada caso, pero también a los usuarios, a los externos, su voz y opinión será fundamental. Por otra, asegurando la debida supervisión humana en el uso de la tecnología, en especial a medida que se van automatizando procesos y liberando tareas de la intervención de las personas.
Más allá de la debida consideración al impacto de la brecha digital, debemos hacernos muchas preguntarnos, quiénes serán las personas afectadas por los sistemas de IA, a quién va destinado, qué pretendemos obtener, cómo mejorará la calidad del servicio, su eficiencia y eficacia. Para ello, será necesario abrir canales de comunicación permanentes con las personas usuarias que permitan identificar los problemas. No hay nada más frustrante que toparse con el escudo de la tecnología por parte de aquellos que deben defender el interés general, pero lamentablemente, después de la pandemia, parece haberse levantado un «muro digital» entre la administración y los ciudadanos. Es necesario garantizar el «derecho a una buena administración digital», reconocido en la Carta de Derechos Digitales, porque la ciudadanía no puede perder derechos por relacionarse en el mundo digital.
10. Conclusiones: Inteligencia Artificial para hacerlo mejor
El uso de la tecnología en todas sus dimensiones, pero en particular la IA generativa, no debe convertirse en una finalidad, sino que debe mantener siempre su carácter instrumental, de ahí que, a la hora de abordar las posibilidades que ofrece en la gestión pública ése debe ser el enfoque. ¿Cuál es el propósito?
Cuando se habla de IA en la gestión pública, es habitual el recurso a los chatbots y a la simplificación administrativa mediante la automatización, pero las posibilidades van mucho más allá, sobre todo si pensamos en las obligaciones que se derivarán del RIA. Un simple examen a los servicios públicos que, con el carácter de mínimos, prestan las entidades locales, una mirada al artículo 26 LRBRL, y resulta relativamente sencillo anticipar el posible impacto que la tecnología y las considerables mejoras que pueda suponer. En el momento actual, está en marcha el PERTE de digitalización del agua, pensemos en cómo afecta la IA a la gestión del tráfico y la movilidad, el futuro de los vehículos autónomos, a la actuación de la policía local en la mejora de la seguridad y, por supuesto, la gestión de la información en general, para simplificar la gestión. Un uso muy interesante con muchas luces, pero también con las sombras de los riesgos que hay que gestionar, para evitar los riesgos en la automatización de la asistencia a las personas vulnerables, o las infracciones a la privacidad de las personas, entre otros.
Será el tamaño y otras circunstancias de la respectiva entidad las que determinarán cómo abordar cada uno de los puntos de esta propuesta de Decálogo. Algunos tendrán un buen modelo de gobernanza, pero no cuentan con la tecnología. Otros carecen de capital humano con el que abordarlo. En todo caso, lo más importante será la dimensión que el modelo de gobernanza debe adoptar, el tipo de instrumento interno que recoja la hoja de ruta y otras acciones para empezar, sobre todo el liderazgo en el despliegue del modelo.
Por eso resulta necesario aplicar un proceso de reflexión, ante el exceso de información, todas las organizaciones necesitan tomar distancia y empezar a pensar cómo abordar los retos y desafíos que presenta la IA, teniendo siempre presente un enfoque estratégico de la IA basado en la ética y en la integridad, equilibrando las oportunidades de innovación y avance tecnológico con los posibles riesgos. Proceso de reflexión al que espero contribuya el presente decálogo.