Evaluación híbrida (IA + humanos) en la contratación pública: cómo diseñarla auditables y conforme

Por qué considerar un panel híbrido para evaluar ofertas

Los sistemas de IA pueden acelerar el análisis de cientos de ofertas, estandarizar puntuaciones y detectar anomalías. Pero, en contratación pública, la legitimidad legal y la trazabilidad son imprescindibles. Un enfoque híbrido —IA como asistente de pre-evaluación y humanos como decisores finales— permite aprovechar la eficiencia de modelos automatizados sin sacrificar la responsabilidad jurídica exigida por la Ley 9/2017 y obligaciones transversales (RGPD, ENS, y las exigencias del EU AI Act).

A continuación propongo un blueprint operativo para diseñar paneles híbridos auditables y robustos para ayuntamientos y entidades públicas.

Principios de diseño fundamentales

• Proporcionalidad y transparencia: la IA debe aportar valor detectando riesgos y proponiendo puntuaciones, pero la decisión formal recae en personas identificables y con capacidad de motivar la valoración.
• Trazabilidad: cada recomendación automática debe quedar registrada con versión de modelo, datos de entrada y explicaciones mínimas (feature importance o reglas).
• Protección de datos y seguridad: aplicar DPIA y controles ENS (RD 311/2022) según la sensibilidad de los datos procesados.
• Auditable y reproducible: conservar datasets de prueba, logs y criterios de evaluación empleados durante el proceso de contratación.

Paso a paso práctico para implantar un panel híbrido

1. Clasificar el sistema y ejecutar evaluación preliminar de riesgos

   • Determina si el uso de IA se considera de alto riesgo bajo el EU AI Act y documenta esa evaluación.
   • Lanza un DPIA si se procesan datos personales de licitadores o terceros (RGPD).
   • Asigna nivel ENS y medidas técnicas/organizativas mínimas.

2. Definir la función exacta de la IA en los pliegos

   • Especifica en los pliegos qué hará la IA: prefiltrado de requisitos formales, puntuación técnica estandarizada, detección de anomalías (posible colusión) o verificación de documentación.
   • Indica que las recomendaciones son asistenciales y que la decisión final corre por cuenta del órgano de contratación.

3. Diseñar la matriz de puntuación y los umbrales de revisión humana

   • Establece criterios auditables (puntos por criterio, pesos y tolerancias).
   • Define umbrales que disparan revisión humana obligatoria (por ejemplo: discrepancia > X puntos entre IA y primer evaluador humano, o detección de anomalías).
   • Registra los motivos de cualquier corrección humana con sistema de firmas electrónicas.

4. Contratación y cláusulas contractuales

   • Exige versiones prefijadas del modelo, control de cambios y derecho a auditoría del código y de los logs.
   • Incluye SLA sobre disponibilidad, registros de explicabilidad y obligación de mantener datos de entrenamiento y metadatos durante un periodo definido.
   • Acordar mecanismos de portabilidad y clausulas para retirada de modelo si se detectan sesgos sistemáticos.

5. Pruebas antes de producción: simulación con datos históricos

   • Ejecuta la IA contra concursos cerrados (anonimizados) y compara con resultados reales.
   • Evalúa coherencia, sensibilidad a manipulaciones y riesgos de colusión.
   • Documenta métricas: concordancia con evaluadores humanos, casos en que la IA falló y acciones correctoras.

6. Formación del equipo evaluador y procedimientos de supervisión

   • Capacita a los evaluadores en interpretación de explicaciones del modelo y en cómo documentar discrepancias.
   • Define responsable de supervisión técnica que pueda bloquear recomendaciones automatizadas si hay indicios de fallo.

7. Monitorización continua y red teaming

   • Monitoriza drift en datos, cambios en comportamiento del modelo y ratio de apelaciones administrativas.
   • Programa revisiones periódicas, actualizaciones controladas y red teaming para detectar manipulaciones intencionales.

Ejemplo operativo (breve)

• Uso de IA: pre-evaluación formal + puntuación técnica estandarizada de criterios objetivos.
• Flujo: plataforma ingesta ofertas → IA extrae y normaliza datos → IA propone puntuaciones + alerta si discrepancia con reglas → evaluador humano revisa, edita y firma razonamiento.
• Registro: cada recomendación conserva versión de modelo, seed de ejecución, campos extraídos y motivo de cualquier edición humana.

Riesgos habituales y cómo mitigarlos

• Sesgo oculto en datos de entrenamiento: mitigación mediante auditorías de datos y pruebas con conjuntos representativos.
• Manipulación deliberada por licitadores: incluir detección de anomalías y thresholds de revisión humana; reservar penalizaciones contractuales.
• Falta de explicabilidad: exigir modelos con explicaciones locales (SHAP, LIME o reglas) y documentarlas en el expediente.
• Incumplimiento ENS o RGPD: incluir controles técnicos (cifrado, control de acceso) y realizar DPIA antes de producir.

Toma de acción (checklist rápido)

• Ejecutar clasificación de riesgo AI + DPIA.
• Definir función de la IA en el pliego y cláusulas contractuales exigentes.
• Crear matriz de puntuación y umbrales para revisión humana.
• Probar la IA con concursos históricos y documentar resultados.
• Formar evaluadores y asignar responsable de supervisión técnica.
• Implementar monitorización continua y calendarios de auditoría.

Integrar IA en la evaluación de ofertas no es sólo una cuestión técnica: exige diseño jurídico, operativa clara y controles de seguridad. Seguir este blueprint ayuda a equilibrar eficiencia y legitimidad administrativa. Si necesita un mapa de requisitos técnicos y contractuales adaptado a su municipio, herramientas como OptimGov pueden integrarse con este enfoque para facilitar trazabilidad y cumplimiento.