Seguridad en agentes de IA: qué exigir
Un agente de IA no es un chatbot que responde preguntas: entra a tu ERP, lee facturas, registra pagos y consulta bases de datos. Por eso la pregunta correcta no es solo qué puede hacer, sino cómo protege tu información mientras lo hace.
Confianza cero: nadie entra sin verificarse
El modelo de confianza cero (zero trust) parte de tres ideas:
- Verificación continua. Cada acceso, sea de una persona, un equipo o un servicio, se valida con identidad y autenticación multifactor. Estar "dentro de la red" no da permisos.
- Mínimo privilegio. El agente recibe solo los permisos que necesita para su tarea, ni uno más.
- Asumir la brecha. El sistema se diseña pensando que un incidente puede ocurrir, con monitoreo permanente para detectarlo y contenerlo a tiempo.
Un agente con acceso de administrador a todo tu ERP es un riesgo, por bien que funcione.
Un entorno aislado para cada cliente
Los datos de una empresa no deben compartir servidores, permisos ni red con los de otra. Un entorno dedicado por cliente separa recursos, accesos y monitoreo, de modo que un problema en un cliente nunca alcanza a otro.
Todo el tráfico pasa por una puerta controlada
Cada solicitud que entra o sale del agente debería pasar por una única puerta de enlace (API gateway) que autentica, registra y limita.
Entrada: quién puede activar al agente
Los sistemas del cliente, los webhooks y las tareas programadas se identifican con llaves de suscripción únicas, guardadas cifradas. Lo recomendable es tener un par, principal y secundaria, para poder cambiarlas sin cortar el servicio.
Entre servicios: identidad en cada paso
Cuando un componente del agente llama a otro, también se identifica, normalmente con tokens firmados (JWT) emitidos por un proveedor de identidad. Ningún servicio confía en otro solo por estar en la misma plataforma.
Llaves que caducan
Las llaves se rotan de forma automática en ciclos cortos, por ejemplo cada 30 días. Así, una llave filtrada deja de servir pronto.
Cifrado en tránsito y en reposo
- En tránsito: TLS 1.2 o superior en toda comunicación entre tus sistemas, el agente y la nube.
- En reposo: AES-256 en bases de datos y almacenamiento de archivos.
- Secretos: contraseñas, certificados y credenciales de tus sistemas viven en una bóveda de secretos, nunca en el código ni en una hoja de cálculo.
Datos: qué se guarda, cuánto tiempo y quién decide
No todos los datos que toca un agente deben quedarse. Una buena práctica es separarlos en dos tipos:
- Datos de la transacción: los campos de una factura, el resultado de una validación, lo que el agente extrae para una operación. Pueden borrarse en cuanto termina cada ciclo.
- Datos operativos: métricas, indicadores y registros de auditoría que alimentan los reportes. Se conservan un tiempo definido, por ejemplo de 6 a 12 meses, y se eliminan automáticamente al vencer.
Qué campos se extraen, para qué y por cuánto tiempo debe quedar por escrito en el diseño del proceso, aprobado por tu empresa antes de poner el agente en marcha. Al terminar la relación, toda la información debería eliminarse en un plazo pactado, por ejemplo 30 días.
En Colombia, además, el tratamiento de datos personales debe cumplir la Ley 1581 de 2012.
Un registro de auditoría de cada acción
Cada solicitud debe dejar rastro: quién la hizo, cuándo, a qué servicio, con qué método y qué respuesta obtuvo. Ese registro permite reconstruir cualquier operación y debe estar disponible cuando tu empresa lo pida para una auditoría.
Cómo se conecta el agente a tu sistema
Por API, la opción preferida
Si tu ERP tiene API (REST, SOAP, OData u otra), el agente se conecta con una cuenta de servicio propia, limitada a los datos que necesita leer o escribir, y se autentica con OAuth 2.0, JWT o llaves de API. Es la forma más segura, rápida y trazable.
Por pantalla, cuando no hay otra salida
Cuando el sistema no tiene API, por ser antiguo o por restricciones del fabricante, el agente puede operar la interfaz como lo haría una persona (RPA). En ese caso se ejecuta en un equipo aislado, vigilado y sin acceso desde internet, y lo recomendable es planear el paso a una integración por API a mediano plazo. Lo explicamos a fondo en cómo se conecta un agente de IA a tu sistema.
Seguridad durante todo el ciclo de vida
- Revisión de código y análisis de seguridad automático antes de cada publicación.
- Pruebas de penetración y auditorías periódicas.
- Parches críticos aplicados de inmediato y registro de cada actualización.
- Monitoreo continuo de amenazas, con alertas y respuesta a incidentes.
Preguntas para hacerle a tu proveedor
Antes de conectar cualquier agente de IA a tus sistemas, pide respuestas concretas:
- ¿Mis datos están en un entorno separado del de otros clientes?
- ¿Qué permisos exactos tendrá la cuenta del agente en mi ERP?
- ¿Cada cuánto se rotan las llaves y dónde se guardan las contraseñas?
- ¿Qué datos se guardan, por cuánto tiempo y cómo se borran?
- ¿Puedo ver el registro de lo que hizo el agente?
- ¿Qué pasa con mi información si terminamos el contrato?
Si alguna respuesta es vaga, es una señal de alerta. Escríbenos y revisamos contigo cómo se aplicarían estos controles en tu sistema.