Registros de decisión y trazabilidad para IA en la administración pública

Por qué los registros de decisión importan en la administración pública

Los sistemas de IA que asisten o automatizan decisiones administrativas deben ser rastreables por motivos legales, operativos y de confianza ciudadana. Los requisitos del EU AI Act, el RGPD (registro y derechos de interés), el ENS (RD 311/2022) y las obligaciones sectoriales (Ley 9/2017 de Contratos, Ley 38/2003 de Subvenciones) exigen capacidad de auditoría, explicabilidad y trazabilidad. Un diseño de registros de decisión sólido facilita auditorías internas y externas, reduce riesgo en procedimientos de contratación y ofrece pruebas en recursos y reclamaciones.

¿Qué debe contener un registro de decisión mínimo y útil?

El objetivo es capturar información suficiente para reconstruir el proceso sin almacenar datos innecesarios. Campos recomendados:

Identificador del expediente: número único y enlace al expediente electrónico.
Fecha y hora (UTC) de cada evento relevante.
Actor: usuario humano (nombre, cargo, id interno) o sistema IA (ID del servicio).
Versión del modelo y artefactos: identificador del modelo, hash del artefacto, configuración/hyperparámetros usados.
Entrada resumida: snapshot de los datos de entrada relevantes (pseudonimizado si contienen datos personales).
Salida del modelo: predicción/etiqueta(s), puntuaciones/confianza y explicación técnica breve (e.g., features relevantes).
Regla de negocio aplicada: referencia a la regla o criterio jurídico (por ejemplo, cláusula del pliego o artículo de la ley).
Decisión final: propuesta automática y decisión humana (aceptó/reescribió/rechazó), con justificación textual si se modifica.
Evidencia documental: identificadores de documentos generados o consultados (acta, informe).
Meta‑eventos: errores, excepciones, reintentos, llamadas a APIs externas y latencias.
Auditoría de cambios: quién/qué modificó un registro y por qué.
Huella de integridad: firma digital o hash encadenado para detectar alteraciones.

Buenas prácticas sobre el nivel de detalle

Evita almacenar datos personales sin necesidad; utiliza pseudonimización y guarda mapeos separados y controlados.
Guarda snapshots compactos: solo los campos necesarios para reproducir la decisión.
Incluye suficiente contexto legal para que la decisión sea comprensible por revisores no técnicos.

Requisitos técnicos y de seguridad

Immutabilidad y evidencia de no repudio: usar almacenamiento append-only, firmas digitales o ledger hashes para garantizar integridad.
Control de accesos: roles y segregación de funciones (operaciones, auditoría, legal), con autenticación fuerte conforme al ENS.
Cifrado en tránsito y reposo; claves gestionadas según ENS y políticas internas de cifrado.
Retención y borrado: políticas alineadas con RGPD (minimización) y normativas administrativas (plazos de conservación).
Registro de acceso a logs: quién consultó qué y cuándo (para requerimientos de transparencia y revisiones).
Integración con expediente electrónico y sistemas de gestión documental para mantener coherencia administrativa.

Cumplimiento normativo: puntos clave

EU AI Act: prepara registros que permitan demostrar conformidad del sistema (características, pruebas de validación, control humano).
RGPD: trata los registros que contengan datos personales como actividades de tratamiento; documenta bases jurídicas, plazos y medidas de seguridad. Adopta pseudonimización cuando sea posible.
ENS (RD 311/2022): asegúrate de los controles de integridad, disponibilidad y confidencialidad según la clasificación del servicio.
Leyes sectoriales (Ley 9/2017, Ley 38/2003): vincula el registro con el expediente administrativo y la tramitación exigida por cada procedimiento.

Integración operativa: del diseño a la práctica

Mapear procesos: identifica puntos del flujo donde la IA interviene (entrada, propuesta, decisión, notificación).
Definir plantillas de registro por caso de uso (subvenciones, contratación, inspección).
Implementar hooks técnicos en la capa de inferencia para capturar eventos y metadatos.
Establecer roles y procesos de supervisión humana: quién revisa alertas, cómo se documentan las intervenciones.
Probar con auditorías internas y ejercicios de red‑teaming para validar que los registros permiten reconstruir decisiones.
Documentar las políticas de retención y acceso en la gobernanza de IA del organismo (comité de IA).

Ejemplo práctico (resumen)

Caso: sistema que prioriza expedientes de subvención

Registro incluye: ID expediente, datos anónimos del solicitante, versión del modelo, score de prioridad, factores más relevantes, propuesta de orden, intervención manual y motivo de cambio, firma electrónica del responsable, enlace al acta de resolución. Retención: 5 años (o según normativa sectorial), pseudonimización de datos personales en logs exportables.

Riesgos comunes y cómo mitigarlos

Logs insuficientes: mitigación — definir checklist mínimo por procedimiento.
Exceso de datos personales en registros: mitigación — aplicar pseudonimización y separación de mapeos.
Integridad débil: mitigación — añadir firma digital o hash chain y monitorización de cambios.
Desacople del expediente administrativo: mitigación — integrar registros al gestor documental del ayuntamiento.

Acción recomendada (takeaway)

Diseña e implanta un registro de decisión por cada sistema de IA con estos pasos concretos esta trimestre: 1) mapa de intervención IA‑expediente, 2) plantilla mínima de campos (usar la lista de este post), 3) prueba de integridad (hash/firma), 4) política de retención alineada con RGPD y normativa sectorial, y 5) inclusión en el Comité de Gobernanza de IA. Estos controles reducen riesgo legal y facilitan la auditoría y la confianza ciudadana.

OptimGov puede integrarse con este enfoque para exportar registros compatibles con expediente electrónico y controles ENS, pero el primer paso es el mapeo y la plantilla: sin datos reproducibles, no hay auditoría posible.