La guía convierte la prohibición en verificaciones concretas: sistema y conducta, técnica cualificada, alteración sustancial, merma de la capacidad de decisión y perjuicio significativo. La persuasión o personalización no bastan por sí solas.
Ideas clave
- Los elementos legales deben analizarse acumulativamente.
- La conclusión debe vincularse al sistema, versión, finalidad y operador.
- Una cláusula del proveedor o una etiqueta de «IA responsable» no sustituyen el análisis del caso real.
- Cambios, incidentes y reclamaciones deben reabrir la revisión.
Prueba acumulativa
- Sistema de IA y conducta de introducción, puesta en servicio o utilización.
- Técnica subliminal o deliberadamente manipuladora o engañosa.
- Alteración sustancial del comportamiento.
- Merma apreciable de la decisión informada y decisión causal.
- Perjuicio significativo real o razonablemente probable.
Resultado mínimo del control
La entidad debería poder detectar el supuesto antes del uso, bloquearlo cuando concurra y reconstruir quién decidió, qué información analizó y qué medidas se ejecutaron. Si no se completan todos los elementos, aún deben revisarse las normas que puedan seguir siendo aplicables.
Fuentes y referencias
Se priorizan fuentes oficiales para el marco normativo. La aplicación a un caso concreto puede exigir revisar normativa sectorial, guías, jurisprudencia y documentación técnica adicional.