Ordenando control IA

Seguridad y agentes

Seguridad en herramientas de IA, conectores y agentes: mínimo acceso y mínima autonomía

Criterios prácticos para limitar datos, permisos, conectores y autonomía de herramientas de IA y agentes, con trazabilidad y revocación.

Por Sara Sisa CuraPublicado: 7 de agosto de 2026

Una herramienta debe disponer únicamente de los datos y facultades necesarios para cumplir su función. El acceso excesivo convierte un error pequeño en un incidente amplio. En agentes y conectores, el principio de mínimo privilegio debe acompañarse de mínima autonomía, registros y capacidad de revocación.

Ideas clave

  • Limita fuentes, scopes y permisos al mínimo necesario.
  • Prefiere proponer antes que ejecutar y preparar antes que enviar.
  • Separa clientes, organizaciones y entornos.
  • Registra quién actuó, con qué datos, configuración y resultado.

Un ejemplo: asistente de correo

Puede necesitarNo necesita por defecto
Leer un mensaje seleccionadoLeer toda la bandeja
Preparar una respuestaEnviar sin revisión
Crear un borradorEliminar mensajes
Consultar un contexto concretoDescargar todos los adjuntos o modificar el CRM completo

Datos y conectores

  • Conoce qué datos se envían y qué terceros o subproveedores intervienen.
  • Define conservación, borrado, exportación y fin del servicio.
  • Usa cuentas empresariales, roles y registros cuando el contexto lo requiera.
  • Revoca permisos y credenciales cuando dejan de ser necesarios.
  • Evita mezclar datos de clientes u organizaciones.

Trazabilidad técnica mínima

Registrar no convierte una acción en correcta, pero permite supervisar, corregir e investigar. Conserva identidad, tiempo, fuentes, versión, instrucciones, herramientas, resultado, acciones ejecutadas, revisión humana, errores y recuperación en proporción al riesgo y a la normativa aplicable.

Continúa por aquí