La existencia de persuasión, personalización u opacidad no activa automáticamente la prohibición. El análisis del artículo 5.1.a requiere reconstruir varios elementos acumulativos y relacionarlos con el caso de uso real, la capacidad de decisión de la persona y un perjuicio significativo real o razonablemente probable.
Ideas clave
- No toda recomendación personalizada es manipulación prohibida.
- La técnica, la alteración de conducta, la merma decisoria, la decisión causal y el perjuicio deben analizarse por separado.
- Si falta un elemento puede no completarse el artículo 5.1.a, pero otras normas pueden seguir aplicando.
- Ante indicios razonables y falta de información, una medida prudente es suspender el uso afectado hasta cerrar el análisis.
Los cinco elementos de la prueba
| Elemento | Pregunta de comprobación |
|---|---|
| Sistema y conducta | ¿Se introduce, pone en servicio o utiliza un sistema de IA? |
| Técnica cualificada | ¿Existe técnica subliminal o deliberadamente manipuladora o engañosa? |
| Alteración sustancial | ¿Pretende o consigue modificar de manera importante el comportamiento? |
| Merma y decisión causal | ¿Reduce apreciablemente la decisión informada y provoca una decisión distinta? |
| Perjuicio significativo | ¿Existe o es razonablemente probable un perjuicio relevante? |
Qué no debe confundirse con una práctica prohibida
La complejidad técnica de un modelo, una recomendación personalizada o una técnica comercial persuasiva no bastan por sí solas. El análisis debe centrarse en el mecanismo concreto, su efecto sobre la autonomía decisoria y la conexión con un perjuicio significativo.
Proceso de control
- Registrar sistema, versión, finalidad, operador y contexto.
- Describir interacción, personalización, recomendación o persuasión.
- Identificar técnica y responsable de diseño o configuración.
- Analizar efecto conductual, capacidad decisoria y decisión contrafactual.
- Valorar perjuicio, probabilidad y personas afectadas.
- Decidir: bloquear, retirar, rediseñar o documentar la no concurrencia.
- Revisar tras cambios, incidentes, reclamaciones o nueva evidencia.
Fuentes y referencias
Se priorizan fuentes oficiales para el marco normativo. La aplicación a un caso concreto puede exigir revisar normativa sectorial, guías, jurisprudencia y documentación técnica adicional.