La seguridad de los agentes de IA avanza a través de una curva de madurez familiar: adopción, luego visibilidad y, finalmente, control. Pero lo que hemos descubierto colectivamente es que imponer privilegios mínimos a los agentes de IA es más difícil de lo que jamás imaginamos. Por eso existen tantos enfoques, desde el filtrado rápido hasta los controles de acceso a la capa de identidad. A lo que hemos llegado colectivamente es a que comprender la intención de los agentes de IA es esencial para protegerlos. No es fácil, pero es el único camino a seguir.
Las organizaciones abordan este desafío con diferentes niveles de sofisticación. Para muchos, el objetivo actual es simplemente encontrar los agentes de IA que ya operan en toda la empresa. Ése es un primer paso necesario. Los agentes de IA están apareciendo en plataformas SaaS, entornos de desarrollo, flujos de trabajo en la nube, sistemas de atención al cliente, herramientas de productividad y aplicaciones internas. Algunos son sancionados y otros no.
Pero el descubrimiento por sí solo no es útil. Los agentes de IA no son pasivos; razonan, planifican, llaman a herramientas, invocan API, acceden a datos y toman medidas sin un ser humano al tanto. El riesgo no es que una organización tenga demasiados agentes. El riesgo es que esos agentes puedan operar en todos los sistemas sin una identidad, intención, propiedad y aplicación consistentes. También existen diferentes tipos de agentes de IA, cada uno de los cuales requiere un enfoque diferente para protegerlos.
Las directrices recientes sobre la adopción cuidadosa de servicios de IA agente dejan claro el punto: la IA agente introduce riesgos de privilegios, autenticación, responsabilidad, diseño y comportamiento que los equipos de seguridad deben abordar antes de que estos sistemas se integren en flujos de trabajo críticos. La visibilidad es el punto de partida, pero lo que importa es la aplicación de la ley.
La trampa de la visibilidad
La mayoría de los programas de seguridad comienzan con la pregunta: “¿Qué tenemos?” Eso tenía sentido para la nube, SaaS, puntos finales, identidades y vulnerabilidades. También tiene sentido para los agentes de IA.
Pero el riesgo de limitarse únicamente a la visibilidad de los agentes de IA es mayor que en cualquier otro entorno de la lista debido a la velocidad con la que se crean los agentes de IA, a qué tienen acceso y cómo se pueden compartir.
Un inventario de agentes de IA que no se conecta con la aplicación de la ley se convierte en otra lista de activos estática. Puede mostrar que existe un agente, pero no puede decirle si el acceso del agente es apropiado, si su comportamiento coincide con su propósito, si su propietario sigue siendo responsable o cuándo se deben revocar sus permisos a medida que cambian las condiciones. Para los agentes de IA, la visibilidad sin control crea un tipo peligroso de confianza, donde es fácil sentir que tienen el control cuando la realidad es muy diferente.
Por qué los agentes de IA rompen los modelos de acceso estático
El control de acceso tradicional supone cierto nivel de previsibilidad. La Gestión de Acceso e Identidad Humana lo tiene más fácil, ya que cada persona tiene una función laboral. La gestión de identidades no humanas o de máquinas es más compleja, pero una cuenta de servicio aún admite una carga de trabajo definida. Estas suposiciones son imperfectas, pero brindaron a los equipos de seguridad una base para roles, derechos, aprobaciones, revisiones de acceso y limpieza periódica.
Los agentes de IA están lejos de ser estáticos. Un agente se define menos por un flujo de trabajo fijo y más por un objetivo. Puede interpretar instrucciones, llamar a diferentes herramientas y adaptar sus acciones según el contexto. Dos agentes con permisos similares pueden tener un perfil de riesgo muy diferente, dependiendo de lo que cada uno intente lograr.
El acceso estático no es suficiente porque es más probable que los agentes de IA se utilicen de formas no previstas cuando se concedió el acceso. El problema no siempre es un comportamiento malicioso sino una ambigüedad que plantea un riesgo, como una tarea que se expande más allá de su propósito original.
La pregunta que deben hacerse los equipos de seguridad no es sólo “¿a qué puede acceder este agente?” La pregunta más importante es: ¿qué se le debería permitir hacer a este agente, en estas condiciones, para este propósito? Ésa es una cuestión de aplicación.
La aplicación de la ley comienza con una mejor comprensión
La aplicación efectiva de agentes de IA no puede incorporarse a un inventario básico y no contextual. Los equipos de seguridad necesitan correlacionar información entre propietarios, consumidores, identidades, sistemas, permisos e intenciones antes de poder definir controles significativos.
Eso significa comprender a un agente en varias dimensiones:
- Propiedad: ¿A quién pertenece el agente? (Esto puede ser más difícil de lo que piensas).
- Consumidores: ¿Quién utiliza el agente?
- Identidad: ¿Qué identidades, tokens, secretos, concesiones de OAuth y cuentas de servicio utiliza el agente?
- Intención: ¿Qué se supone que debe lograr el agente?
- Acceso: ¿A qué sistemas, aplicaciones, almacenes de datos, API e infraestructura puede llegar?
- Uso: ¿Qué ha hecho realmente el agente y con qué frecuencia?
- Origen: ¿Cómo se creó el agente?
- Ciclo vital: ¿El agente está activo, inactivo o ya no está vinculado a su propósito original?
Aquí es donde muchas organizaciones luchan porque el contexto de los agentes está disperso. Los datos de identidad viven en un solo lugar. Los permisos de la nube están en otra parte. Las integraciones SaaS tienen sus propios modelos. La infraestructura como código puede revelar patrones de implementación previstos, pero ese contexto rara vez se correlaciona con el resto. La propiedad puede ser obvia para la persona que creó el agente e invisible para todos los demás.
Sin correlación, la aplicación de la ley se convierte en conjeturas. Con la correlación, los equipos de seguridad pueden comenzar a definir reglas que reflejen cómo operan realmente los agentes.
De la remediación a las reglas
Muchas herramientas de seguridad equiparan la aplicación de la ley con la remediación. Se encuentra algo riesgoso y un manual abre un ticket, elimina el acceso, desactiva una identidad o notifica al propietario. Esto es útil, pero no suficiente para la IA agente. Los agentes de IA necesitan control antes, durante y después de actuar.
Los equipos de seguridad deben dejar de preguntarse: “¿Qué se debe eliminar después de detectar el riesgo?” a “¿Qué se le debería permitir hacer a este agente en primer lugar?” Ese cambio hace que la aplicación de la ley pase de la limpieza al control. Luego, las organizaciones pueden definir reglas como:
- Un agente de atención al cliente puede leer el historial de tickets, pero no puede exportar datos de clientes de forma masiva
- Un asistente de código puede sugerir cambios, pero no puede pasar a producción sin un flujo de trabajo aprobado.
- Un agente de operaciones en la nube puede inspeccionar la variación de la configuración, pero no puede modificar roles privilegiados.
- Un agente financiero puede generar informes, pero no puede iniciar pagos ni cambiar los detalles del proveedor.
- Un agente de seguridad puede clasificar las alertas, pero no puede eliminar registros ni suprimir detecciones.
Estas reglas no se pueden gestionar de forma eficaz dentro de una plataforma de IA a la vez. Las empresas utilizarán muchas plataformas de agentes, agentes nativos de SaaS, marcos internos, servicios en la nube y herramientas de desarrollo. Cada uno puede tener sus propios controles, registros y modelos de permisos. Los equipos de seguridad necesitan una forma coherente de gobernar a los agentes en ese entorno fragmentado. Es por eso que el próximo plano de control para los agentes de IA tiene que estar centrado en la identidad, ser consciente del contexto e independiente de la plataforma.
El papel de la intención en la aplicación de la ley
La identidad responde quién es el agente. Los permisos responden qué acceso existe. La intención responde por qué ese acceso debería estar activo.
La dimensión de intención es esencial. El riesgo de los agentes de IA no se puede entender únicamente observando si una llamada a la API está técnicamente permitida. Los equipos de seguridad deben evaluar si una acción se alinea con el propósito aprobado del agente.
La aplicación de la ley basada en la intención brinda a las organizaciones un modelo de control más preciso. Permite a los equipos de seguridad pasar de permisos estáticos y amplios a acceso condicional según el propósito y el contexto. Eso no significa que cada acción deba aprobarse manualmente. Significa que las acciones de alto riesgo deben estar limitadas por el rol del agente, el propietario, la tarea, el entorno y el resultado esperado.
El OWASP Top 10 para aplicaciones agentes destaca riesgos como abuso de identidad y privilegios, uso indebido de herramientas, comunicación insegura entre agentes, fallas en cascada y agentes no autorizados. Todos estos riesgos apuntan a la misma conclusión: los controles de seguridad deben comprender la razón del agente para actuar.
Un plano de control singular para la IA agente
Los agentes de IA no viven en una sola plataforma. Existen en toda la empresa. Mientras que las identidades de las máquinas “tradicionales” fueron creadas por equipos de TI, desarrolladores y DevSecOps, los agentes de IA son creados por personas en todos los roles de la organización. Algunos agentes operarán en entornos de nube, mientras que otros se ejecutarán localmente. Algunos estarán integrados en flujos de trabajo empresariales que los equipos de seguridad no gestionan directamente.
Los controles plataforma por plataforma para los agentes de IA no se ampliarán. Cada plataforma puede proporcionar sus propios agentes, pero ninguna plataforma puede ver la imagen completa de la empresa en cuanto a identidad, acceso, propiedad y ciclo de vida. Las organizaciones necesitan un plano de control unificado que pueda comprender a los agentes en todos los entornos y aplicar reglas coherentes.
Ese avión de control debería hacer tres cosas:
- Descubrir: Encuentre agentes dondequiera que existan
- Entender: Correlacionar agentes con identidades, propietarios, acceso, contexto de infraestructura, uso e intención.
- Hacer cumplir: Aplicar reglas que gobiernen lo que los agentes pueden hacer, cuándo pueden hacerlo y cómo debe cambiar el acceso a medida que cambia el contexto.
Vea cómo las soluciones de seguridad que priorizan la IA, como Token Security, descubren, comprenden y aplican lo que sus agentes de IA pueden hacer en todas las plataformas.
Ésta es la diferencia entre gestionar la dispersión de agentes y gobernar la IA agente. La expansión se produce cuando cada plataforma, equipo y unidad de negocio crea agentes de forma independiente. La gobernanza ocurre cuando la organización puede aplicar controles consistentes en toda esa actividad sin bloquear la innovación.
Qué deberían hacer ahora los líderes de seguridad
Los equipos de seguridad no necesitan esperar a tener estándares perfectos o herramientas completamente maduras antes de actuar. Pueden empezar a construir el modelo operativo ahora.
El primer paso es dejar de tratar la visibilidad de los agentes de IA como la línea de meta. Por supuesto, los inventarios de agentes son la base para la aplicación de la ley. Cada agente debe tener asignado un propietario, un propósito, una identidad, un conjunto de permisos y un estado de ciclo de vida. Los agentes sin dueño deben ser investigados, los agentes con exceso de privilegios deben tener el tamaño adecuado, los agentes inactivos deben retirarse y las acciones de alto riesgo deben requerir controles más estrictos.
Pero, en última instancia, lo que importa es la aplicación de la ley. Los líderes de seguridad deben alinear la gobernanza de los agentes de IA con la gestión de identidades y accesos, la seguridad de la nube, la seguridad de las aplicaciones y los flujos de trabajo de DevOps. La IA agente no es un universo separado. Es un software con acceso, autonomía e impacto empresarial. Pertenece al modelo de seguridad empresarial, pero ese modelo tiene que evolucionar.
La Iniciativa de Estándares para Agentes de IA del NIST apunta en la misma dirección, con trabajo centrado en estándares, protocolos, autenticación, infraestructura de identidad e interacciones seguras entre agentes humanos y múltiples agentes. El mercado avanza hacia la misma conclusión: los agentes de IA deben ser gobernados como actores con autoridad, no tratados como aplicaciones ordinarias con una interfaz de chatbot.
La visibilidad es el comienzo, pero la aplicación es el objetivo.
La primera ola de seguridad de los agentes de IA tuvo que ver con la concientización. Las organizaciones debían comprender que los agentes estaban ingresando a la empresa y creando nuevos riesgos de identidad. Ese mensaje llegó y todos los equipos de seguridad e IAM saben que necesitan visibilidad. La próxima ola es la aplicación de la ley.
Las empresas deben definir qué pueden hacer los agentes y aplicar reglas de manera consistente en todas las plataformas. Necesitan pasar de “¿Qué agentes existen?” a “¿Qué agentes pueden tomar qué acciones, bajo qué condiciones y quién es responsable?”
Ese es el plano de control que requiere la IA agente. No otro panel o inventario estático. Los agentes de IA se están convirtiendo en participantes activos en las operaciones empresariales. Escribirán código, administrarán infraestructura, moverán datos, actualizarán sistemas y ejecutarán flujos de trabajo. Las organizaciones que tengan éxito con la IA agencial no serán las que simplemente encuentren a todos los agentes. Serán ellos quienes comprendan a cada agente lo suficientemente bien como para hacer cumplir lo que pueden hacer.
