La Inteligencia Artificial ya está transformando la forma en que las administraciones públicas operan. Desde la automatización de trámites hasta la optimización de recursos propios, la IA ofrece enormes oportunidades. Sin embargo, su implementación sin una estrategia clara puede generar sesgos, falta de transparencia y problemas de privacidad. Por eso, la gobernanza de la IA es un elemento clave para que las administraciones la usen de manera ética, segura y responsable.

La gobernanza de la IA es el conjunto de principios, normas y políticas diseñadas para asegurar que la IA sea ética, segura y beneficiosa para la sociedad. En el caso de las administraciones públicas, esto implica:

– Garantizar transparencia y comprensión de los algoritmos usados en servicios públicos.
– Evitar sesgos y discriminación en los procesos automatizados.
– Asegurar la protección de datos personales y la privacidad.
– Supervisar y auditar la toma de decisiones basada en IA.

Imagen creada por IA (Adobe firefly) para el contenido especial de la entrada.

Los gobiernos tienen una doble responsabilidad: no solo aplicar la IA en la gestión pública, sino también regular su uso en el sector privado y garantizar que beneficie a todos los ciudadanos.

Elementos clave de la gobernanza de IA para Administraciones Públicas

Para que las administraciones públicas puedan usar la IA de forma ética y efectiva, deben considerar aspectos como los siguientes:

Regulación y Cumplimiento Normativo: Todas las acciones deben cumplir las normativas clave para la gobernanza de IA en Europa, como son AI Act de la UE, que es el Reglamento que clasifica los usos de la IA según su nivel de riesgo, GDPR encargado de la protección de datos en todos los procesos con IA, y por supuesto, todas las normativas y leyes de ciberseguridad para prevenir ataques y manipulación de datos.

Principios Éticos y Normativos: Todos los sistemas o partes desarrollada con tecnologías IA debe permitir conocer cómo toma decisiones, es decir, transparencia. Por otro lado, se deben mitigar sesgos en los algoritmos y de la información ofrecida para su entrenamiento. Pero si hay algo que realmente se debe evitar es que desaparezca en algún momento la intervención humana. No se debe olvidar que estos sistemas deben estar validados y controlados por personas que ajusten las decisiones o trabajos a realizar.

Supervisión y Auditoría de los sistemas IA: Para tener un escenario controlado y auditado del uso de estas tecnologías se debe evaluar de impacto de IA en derechos humanos y privacidad(siendo esto aún más complicado). Por este motivo, se requiere un trabajo de auditoría enfocada a los algoritmos aplicados y a la información de entrenamiento para detectar sesgos y errores en los modelos de IA.

Estos aspectos, que son básicos en sistemas tecnológicos, se deben afinar con estándares internacionales a seguir con el objetivo de tener un desarrollo responsable de los sistemas basados en IA. Por este motivo, La UE está impulsando la idea de sandbox regulatorios donde las administraciones pueden probar la IA bajo supervisión antes de implementarla.

Retos y Desafíos en el Gobierno de la IA en Gobiernos Locales

Estamos seguros del potencial de la IA para mejorar la eficiencia de la administración pública, su implementación conlleva desafíos como son la falta de conocimiento técnico en la administración pública para evaluar la IA, ya que los algoritmos en los que se basan no son de entendimiento trivial. Otro elemento es la desconfianza ciudadana y de la propia Administración Pública sobre cómo la IA toma decisiones que afectan a sus derechos, además de un alto coste de implementación, ya que es necesario equilibrar la inversión en IA con el impacto esperado.

Por lo tanto, según lo que se ha comentado con anterioridad, se identifican los siguientes pasos si se quiere afrontar un proceso de este tipo por la Administración Pública:
1. Definir un marco de gobernanza con principios éticos y normativos claros.
2. Establecer procesos de supervisión y evaluación de impacto de la IA en la ciudadanía.
3. Invertir en formación para que las personas involucradas comprendan cómo funciona la IA.
4. Colaborar con expertos en IA para garantizar su implementación responsable.
5. Crear espacios de experimentación regulada (sandbox) antes de aplicar IA en procesos críticos.

Por lo tanto, como resumen, es necesario ayudar a las Administraciones y gobiernos locales a diseñar estrategias de gobernanza de IA que garanticen su uso seguro, ético y ajustado con la normativa, con un despliegue de forma razonada y supervisada y formando a todos aquellos que tengan alguna relación para que su uso no suponga ningún riesgo.

Nuestros servicios relacionados​​

Cocreación	Diseño de futuros	Acompañamiento

También te puede interesar…​​

Inteligencia Territorial basada en conocimiento del entorno	Innovación retroprogresiva en entornos rurales	Conceptos de innovación: Sandbox