La seguridad de la inteligencia artificial ha dejado de ser un problema de modelos para convertirse en un desafío de gobernanza de identidades. A medida que las organizaciones avanzan desde experimentos con asistentes de IA hacia el despliegue masivo de agentes autónomos, el control de acceso basado en identidades se posiciona como el mecanismo crítico para proteger los sistemas corporativos. Esta transformación representa un cambio fundamental en cómo las empresas latinoamericanas deben replantear su estrategia de seguridad empresarial.
Hasta hace poco, las discusiones sobre seguridad en IA se concentraban en vulnerabilidades de modelos, inyección de prompts y riesgos de jailbreaks. Sin embargo, la realidad operacional ha evolucionado rápidamente. Según datos de Gartner, las empresas del Fortune 500 podrían estar ejecutando más de 150,000 agentes de IA para 2028, comparado con menos de 15 hace apenas un año. Este crecimiento exponencial ha dejado expuesta una brecha crítica: 96% de las organizaciones aún utilizan modelos de gobernanza nunca diseñados para software autónomo. El incidente reciente donde un agente de IA de OpenAI comprometió los sistemas de Hugging Face ilustra perfectamente el riesgo real de estos entornos sin controles apropiados.
El problema central radica en cómo los agentes autónomos obtienen acceso a sistemas sensibles. A diferencia de la automatización tradicional, estos agentes operan de forma independiente, toman decisiones sin supervisión directa e invocan servicios externos frecuentemente utilizando credenciales heredadas del usuario que los activó. Las organizaciones enfrentan un dilema: ralentizar la adopción de IA para implementar controles o permitir que empleados conecten agentes directamente a sistemas corporativos sin gobernanza adecuada. En la práctica, la mayoría elige la segunda opción, otorgando permisos OAuth amplios o credenciales administrativas simplemente para permitir que los agentes completen tareas. Esta aproximación transforma el problema de seguridad en uno de gestión de identidades no humanas, que requiere un enfoque completamente diferente al tradicional.
Para empresas latinoamericanas con infraestructuras ERP como SAP, Oracle NetSuite u Odoo, esta transición presenta desafíos y oportunidades específicas. Muchas organizaciones en la región han invertido significativamente en estos sistemas y ahora necesitan integrar agentes de IA sin comprometer la seguridad de datos críticos de clientes, inventarios y transacciones financieras. En Odoo, por ejemplo, donde la extensibilidad y automatización son características centrales, el despliegue de agentes autónomos requiere un control granular sobre qué módulos pueden acceder y qué acciones ejecutar. SAP, con su compleja arquitectura multitenante, enfrenta desafíos similares de auditoría y atribución de acciones. La solución no puede ser simplemente extender credenciales existentes, sino implementar un plano de control de identidad dedicado que permita asignar a cada agente su propia identidad, asociarlo con un responsable humano específico, y revocar acceso instantáneamente si es necesario.
La gobernanza efectiva de agentes autónomos debe contemplar las tres categorías emergentes de software de IA en entornos empresariales: asistentes de codificación y productividad (Claude, Cursor), agentes de plataformas empresariales (Microsoft Copilot para Dynamics, Salesforce Agentforce, AWS AgentCore) y agentes personalizados construidos internamente. Cada uno introduce desafíos únicos de gobernanza, pero todos comparten el mismo requisito fundamental: controlar acceso basado en identidad, implementar permisos específicos para tareas (principio de menor agencia), mantener registros de auditoría centralizados y permitir revocación instantánea. Las herramientas tradicionales de gestión de identidades y acceso no fueron diseñadas para estos escenarios. Un administrador que observa un registro en los logs de Salesforce o Odoo enfrenta una pregunta crítica: ¿fue el usuario quien ejecutó esa acción, o fue un agente autónomo actuando en nombre del usuario? Sin claridad sobre esta atribución, es imposible implementar gobernanza efectiva o cumplir con regulaciones de protección de datos cada vez más estrictas en la región.
Para empresarios e inversores latinoamericanos, esta evolución implica decisiones estratégicas inmediatas. Las organizaciones que implementen gobernanza de identidad para agentes autónomos ahora obtendrán ventaja competitiva, permitiendo mayor velocidad en adopción de IA mientras mantienen seguridad operacional. Aquellas que no actúen enfrentarán crecientes riesgos de incidentes de seguridad, problemas regulatorios y pérdida de control sobre sistemas críticos. La inversión en soluciones especializadas de gobernanza de identidades no humanas debe considerarse tan prioritaria como la inversión en los mismos agentes. Además, este cambio de enfoque representa una oportunidad significativa para proveedores de servicios administrados y consultoras de transformación digital en la región, que pueden posicionarse como expertos en implementar estos modelos de gobernanza en infraestructuras existentes de ERP y sistemas heredados.
