La presencia de menores, personas mayores, personas con discapacidad o personas en una situación social o económica difícil no convierte automáticamente un sistema en una práctica prohibida. Debe existir aprovechamiento de una vulnerabilidad protegida, alteración sustancial del comportamiento y un perjuicio significativo conectado con esa explotación.
Ideas clave
- La vulnerabilidad debe derivar de edad, discapacidad o situación social o económica específica.
- Debe existir conexión entre esa circunstancia y el modo en que el sistema influye.
- La adaptación legítima y accesible no equivale a explotación.
- La conclusión debe conservar vulnerabilidad, mecanismo, alteración, perjuicio y nexo causal.
Los elementos que deben concurrir
| Elemento | Evidencia útil |
|---|---|
| Sistema y conducta | Inventario, rol, contrato, ficha y caso de uso. |
| Vulnerabilidad protegida | Personas afectadas, contexto y fuente de la inferencia. |
| Explotación | Datos, perfiles, prompts, reglas, interfaz y pruebas. |
| Alteración sustancial | Recorrido conductual, métricas, escenarios y pruebas. |
| Perjuicio y nexo | Impacto, gravedad, probabilidad, alcance y análisis causal. |
Adaptar no es explotar
Un asistente que mejora contraste, lenguaje o canal para facilitar el acceso de una persona con discapacidad puede ser una adaptación legítima. La pregunta crítica es si la vulnerabilidad se utiliza como medio para alterar sustancialmente la conducta y producir o poder producir un perjuicio significativo.
Qué hacer ante una alerta
- Contener el uso cuando el riesgo sea razonable.
- Preservar versión, perfiles, prompts, reglas, métricas y comunicaciones.
- Analizar los elementos con participación jurídica, técnica y de negocio.
- Retirar, bloquear o rediseñar cuando proceda y probar la eficacia de la medida.
- Actualizar inventario, clasificación, riesgos, políticas y formación.
Fuentes y referencias
Se priorizan fuentes oficiales para el marco normativo. La aplicación a un caso concreto puede exigir revisar normativa sectorial, guías, jurisprudencia y documentación técnica adicional.