Diseño de IA centrado en la ciudadanía para servicios públicos

Por qué el diseño centrado en la ciudadanía importa para la IA pública

Los proyectos de IA en el sector público suelen partir de objetivos internos (ahorro, eficiencia). Sin embargo, si el diseño no prioriza la experiencia y los derechos de la ciudadanía, aparecen problemas: exclusión de colectivos vulnerables, falta de comprensión de decisiones automatizadas, aumento de reclamaciones y pérdida de confianza. Diseñar con la ciudadanía en el centro reduce riesgos legales (RGPD, EU AI Act) y mejora la efectividad real del servicio.

A continuación se presenta un proceso práctico, aplicable a municipios y entidades públicas, para diseñar servicios con IA que sean útiles, accesibles y legalmente sólidos.

Un proceso en 5 fases y acciones concretas

1) Definir resultados para la ciudadanía y mapear usuarios

• Objetivo: priorizar qué necesitan los ciudadanos, no qué quiere optimizar la administración.
• Acciones:
  • Identificar 3–5 resultados de usuario medibles (p.ej., tiempo para completar un trámite, tasa de comprensión de la respuesta, tasa de asistencia presencial evitada).
  • Construir 4–6 “personas” representativas, incluyendo perfiles vulnerables (personas mayores, no nativas digitales, con discapacidad auditiva/visual).
  • Mapear canales actuales (web, teléfono, atención presencial) y puntos de fricción.

2) Co-diseño y prototipado con usuarios reales

• Objetivo: validar supuestos antes de invertir en modelos complejos.
• Acciones:
  • Organizar 2–3 talleres de co-diseño con ciudadanos y personal municipal que atiende al público.
  • Prototipar flujos con papel o herramientas low-code; testar en escenario real con 10–20 usuarios por iteración.
  • Recoger feedback cualitativo sobre claridad del lenguaje, formatos de salida y necesidad de intervención humana.

3) Privacidad, seguridad y cumplimiento desde el diseño

• Objetivo: integrar RGPD, EU AI Act y ENS desde el inicio.
• Acciones:
  • Aplicar minimización de datos: solo recoger lo imprescindible para el resultado definido.
  • Determinar la base jurídica (p.ej., interés público, cumplimiento de obligación legal) y documentarla.
  • Si el procesamiento es de alto riesgo, planificar una Evaluación de Impacto en la Protección de Datos (DPIA).
  • Requerir pseudonimización cuando sea posible y definir retenciones claras.
  • Incorporar controles y configuraciones que permitan auditar decisiones (registro de entradas/salidas).

4) Transparencia, explicabilidad y opciones para el usuario

• Objetivo: que la ciudadanía entienda cuándo y cómo interviene la IA.
• Acciones:
  • Crear un "label" breve que acompañe la interacción: quién opera el sistema, propósito, derechos del usuario y cómo solicitar revisión humana.
  • Mostrar, cuando proceda, indicadores de confianza o fuentes (p. ej., “Respuesta basada en normativa X; probabilidad de acierto estimada: 82%”).
  • Garantizar rutas claras de apelación y acceso a soporte humano sin fricciones (tiempos máximos de respuesta).
  • Diseñar salidas en lenguaje claro y en los idiomas relevantes para el municipio.

Ejemplo de texto breve para usuario:

• “Este servicio usa IA para ayudar a completar su solicitud. Datos mínimos usados: nombre, DNI y tipo de trámite. Si no está de acuerdo con una decisión, puede solicitar revisión humana llamando al 012 o en el registro municipal.”

5) Pruebas, métricas y mejora continua

• Objetivo: medir impacto en ciudadanía y detectar sesgos o fallos operativos.
• Métricas recomendadas:
  • Tasa de finalización de tarea por canal y por persona.
  • Tasa de comprensión (encuesta rápida post-interacción: ¿la respuesta le resultó clara?).
  • Error operativo relevante (decisiones que requieren intervención humana).
  • Tiempo medio hasta resolución de reclamaciones.
  • Indicadores de equidad (comparar resultados entre grupos demográficos).
• Acciones:
  • Pilotar en un ámbito controlado (p. ej., guía automatizada para ayudas municipales o pre-llenado de formularios) durante 8–12 semanas.
  • Recolectar logs y evidencia para la documentación técnica exigida por el EU AI Act y por auditorías internas.
  • Establecer un buzón de feedback ciudadano y revisar iterativamente.

Requisitos en los contratos y en la gobernanza del proyecto

• Incluir cláusulas de co-diseño y pruebas con usuarios en el pliego.
• Establecer KPIs centrados en ciudadanía (no solo ahorro).
• Solicitar documentación técnica, explicaciones de decisiones automáticas y capacidad de exportar datos para auditoría.
• Definir cláusulas de fallback humano y niveles de servicio para atención presencial/telefónica.

Consideraciones prácticas y riesgos a evitar

• No lanzar sin pruebas con grupos vulnerables: un diseño que “funciona” para una mayoría digital puede excluir a otros.
• No usar lenguaje técnico en la interfaz pública: priorizar claridad.
• No externalizar toda la gobernanza: mantener capacidad municipal para supervisar y auditar (registro, DPIA, evaluaciones).
• Mantener canales alternativos (presencial/telefónico) para quienes no usen la vía digital.

Plantilla de acción: sprint de 90 días

• Días 0–15: definición de resultados ciudadanos y personas.
• Días 16–35: co-diseño y prototipos low-fi.
• Días 36–60: desarrollo del piloto mínimo viable con controles de privacidad.
• Días 61–80: pruebas con usuarios y métricas básicas.
• Días 81–90: revisión, documentación normativa (DPIA si procede) y plan de escalado.

Takeaway / Acción recomendada: lanza un sprint de 90 días con objetivos centrados en ciudadanía (definir 2 KPIs de usuario) y pruebas con al menos un grupo vulnerable; documenta la DPIA y la ruta de apelación desde el primer día. Un enfoque práctico y ciudadano reduce riesgos legales y mejora la adopción real de la IA en tu municipio.

(Para equipos que necesiten apoyo en la fase de diagnóstico y en la definición de KPIs ciudadanos, herramientas como OptimGov pueden integrarse en procesos de co-diseño sin comprometer la soberanía de datos.)