Criterio de diseño

Seguridad en proyectos de IA y automatización

Criterios para diseñar automatizaciones y agentes considerando accesos, permisos, información sensible, trazabilidad y control humano.

La seguridad empieza en el alcance.

Una automatización o un agente empresarial necesita límites claros antes de conectarse a sistemas o ejecutar acciones. El punto de partida es entender qué puede consultar, qué puede modificar y en qué situaciones debe detenerse para que intervenga una persona.

Decisiones que forman parte del diseño

  • SistemasDefinir qué aplicaciones y fuentes puede consultar el proceso, y cuáles quedan fuera de alcance.
  • AccionesSeparar lectura, propuesta y ejecución. No toda capacidad técnica debe habilitarse como acción automática.
  • CredencialesEvitar cuentas compartidas y asignar identidades técnicas según el contexto de la organización.
  • PermisosAplicar acceso mínimo necesario y revisar qué datos o funciones necesita realmente cada integración.
  • InformaciónIdentificar datos sensibles y evaluar si pueden enviarse a proveedores externos o deben permanecer en otra infraestructura.
  • ControlDefinir registros, trazabilidad, validaciones e intervención humana de acuerdo con el riesgo de cada acción.

El requisito concreto depende de cada organización.

La arquitectura adecuada cambia según los sistemas existentes, la criticidad del proceso, las políticas internas y la infraestructura disponible. Este enfoque no reemplaza una evaluación especializada ni implica certificaciones automáticas: busca incorporar preguntas de seguridad desde el diseño del proyecto.

Preguntas antes de conectar un proceso

01
¿Qué información necesita consultar y durante cuánto tiempo debe conservarla?
02
¿Qué acciones pueden ejecutarse automáticamente y cuáles requieren aprobación?
03
¿Cómo se revoca un acceso o se detiene la operación ante un comportamiento inesperado?
04
¿Qué registro necesita la organización para revisar decisiones y resultados?

Revisemos el proceso antes de definir la tecnología.

Podemos ubicar sistemas, datos, acciones y puntos de control sin asumir que la respuesta debe ser IA.

Evaluar un proceso