Gobernanza de prompts en la administración pública

Por qué gobernar los prompts importa en la administración

Los modelos de lenguaje (LLMs) se usan cada vez más en tareas municipales: resúmenes de expedientes, generación de borradores de informes, asistencia en atención al ciudadano, y comprobación normativa. Pero el valor práctico de un LLM depende tanto del modelo como de los prompts que lo alimentan. Los prompts son la "interfaz operacional" y, sin gobernanza, generan riesgos reales: fugas de datos personales, decisiones no reproducibles, outputs no conformes con normativa (ENS, RGPD, EU AI Act) y dificultades para auditar o justificar resultados frente a audiencias internas y externas.

Este artículo ofrece un enfoque práctico —no teórico— para establecer una gobernanza de prompts en un municipio o entidad pública.

Riesgos concretos que cubre la gobernanza de prompts

Exposición de datos personales en prompts (RGPD): inclusión involuntaria de nombres, expedientes o información sensible.
Falta de trazabilidad: imposible reconstruir por qué un modelo devolvió un resultado concreto (EU AI Act — obligaciones de registro y documentación).
Variabilidad operacional: cambios en prompts o parámetros (p. ej. temperature) que modifican resultados sin control.
Responsabilidad legal y cumplimiento ENS RD 311/2022: requisitos de seguridad, trazabilidad y disponibilidad en servicios públicos.
Dependencia del proveedor sin cláusulas contractuales sobre el comportamiento de prompts y acceso a logs.

Principios operativos para gobernar prompts

Catalogar: identificar los casos de uso que emplean LLMs y su impacto sobre derechos de la ciudadanía.
Clasificar riesgo: bajo / medio / alto según si el prompt soporta decisiones que afectan derechos, acceso a prestaciones, o tratamiento de datos personales.
Estandarizar y versionar: plantillas de prompt, control de versiones y revisión formal antes del despliegue.
Registrar y auditar: logging mínimo por interacción para cumplir transparencia y auditoría.
Minimizar datos personales: diseñar prompts que eviten incluir información identificativa cuando no sea imprescindible.
Control humano: definir puntos de intervención humana y criterios de escalado.

Checklist técnico y de cumplimiento (qué registrar y cómo)

Para cada ejecución de prompt, registre al menos:

Identificador de la interacción (UUID) y timestamp.
Usuario o sistema invocante (id interno), rol y justificación del uso.
Prompt completo (texto) y versión de plantilla.
Parámetros de inferencia: modelo, versión, temperature/top-p, otros.
Fuentes externas consultadas (RAG): identificadores de corpus y versión.
Output del modelo (texto) y hash/identificador.
Resultado de validaciones automáticas (p. ej. detección PII, comprobación de formato).
Revisión humana: id del revisor, decisión, observaciones.
Retención y motivo legal para conservar el registro (vinculado a RGPD/ENS).

Políticas de retención y acceso:

Aplicar principios ENS RD 311/2022 para protección y control de accesos.
Definir plazos compatibles con obligaciones administrativas y requisitos de auditoría; evitar conservar datos personales más tiempo del necesario (RGPD).
Control de acceso y cifrado en reposo/transmisión.

Diseño de prompts seguro y reproducible (prácticas)

Plantillas parametrizadas: separar instrucciones (system prompt) de datos concretos (slot filling). Ejemplo: instrucción fija para redactar un informe + campos municipales llenados por el sistema automatizado.
Sanitización previa: filtros automatizados que detecten y anonimicen datos personales antes de enviar al modelo.
Minimizar contexto histórico: enviar solo la información estrictamente necesaria.
Explicitar límites de uso: system prompts que establezcan restricciones (no generar recomendaciones legales definitivas, siempre citar fuentes, etc.).
Tests de regresión: automatizar pruebas que comparen outputs ante cambios de prompt o modelo.

Roles y gobernanza organizativa

Prompt owner / steward: responsable de cada plantilla, su versión y su documentación.
Equipo de seguridad/privacidad: valora riesgos RGPD y ENS; participa en aprobación de prompts de riesgo medio/alto.
Comité de auditoría técnica: valida logs, revisa incidentes y coordina pruebas internas.
Formación: sesiones prácticas para funcionarios con ejemplos y contraejemplos de prompts inseguros.

Cláusulas contractuales y procurement

Al contratar soluciones que permitan prompts:

Exigir acceso a logs y capacidad de exportación (para auditoría).
SLA sobre versión del modelo y notificación previa a cambios relevantes.
Derechos de portabilidad de prompts, plantillas y registros.
Garantías sobre tratamiento de datos (RGPD) y medidas ENS cuando proceda.

Plan de 90 días para empezar (acción clara)

Inventario (días 1–15): lista de casos de uso que emplean prompts; clasificar riesgo.
Definición de plantillas críticas (días 16–30): crear y versionar 5 plantillas prioritarias.
Logging mínimo (días 31–45): desplegar registro básico según checklist.
Controles de privacidad (días 46–60): implementar sanitización automática y reglas de retención.
Procedimiento de aprobación (días 61–75): rol de prompt owner y flujo de aprobación.
Auditoría interna y formación (días 76–90): prueba de 3 escenarios y formación para equipos.

Conclusión y takeaway

La gobernanza de prompts es una pieza operativa y legal imprescindible para desplegar LLMs en la administración pública con seguridad y trazabilidad. Acción inmediata: inicia el inventario de casos de uso y aplica el checklist de logging en tus 90 primeros días. Implementar estas medidas facilita el cumplimiento de ENS, RGPD y obligaciones de transparencia del EU AI Act, y reduce riesgos operativos desde el primer piloto.

En OptimTech integramos control de prompts y trazabilidad en soluciones municipales para facilitar cumplimiento y auditoría, pero las medidas descritas son aplicables independientemente del proveedor.