La implementación de agentes de inteligencia artificial en empresas enfrenta un obstáculo inesperado: no son los modelos de lenguaje los que ralentizan el desempeño, sino la infraestructura tecnológica heredada diseñada para el ritmo de trabajo humano. Este hallazgo surgió del análisis compartido por líderes tecnológicos de tres gigantes empresariales que escalaron agentes IA en entornos de producción, revelando que la brecha entre la velocidad de procesamiento de máquinas y sistemas legados es donde ocurre la verdadera ingeniería empresarial.
LinkedIn, Walmart y Zendesk enfrentaron obstáculos distintos pero llegaron a conclusiones convergentes: la mayoría de la infraestructura empresarial fue construida para cómo trabajan los humanos, no para cómo operan los agentes autónomos. En LinkedIn, el primer cuello de botella fue Kubernetes, que asume que los contenedores se inician bajo demanda en cuestión de segundos, un tiempo excesivo para agentes que piensan en milisegundos. La solución implementada fue transitar de aprovisionamiento bajo demanda a grupos de contenedores preaprovisionados que intercambian cargas de trabajo en tiempo real. Walmart enfrentó un reto diferente: cuando pusieron un armazón de agentes directamente en manos de empleados, la herramienta se viralizó internamente, generando duplicación masiva de agentes sin coordinación. Zendesk, por su parte, descubrió que poseer 20 mil millones de conversaciones de clientes no significaba poder entregarlas directamente a un modelo de lenguaje con contexto ampliado, sino que requería inversión significativa en infraestructura de tuberías de datos.
El desafío de escalabilidad de agentes IA plantea implicaciones críticas para empresas latinoamericanas que utilizan sistemas ERP como SAP, Oracle Cloud, Odoo y Dynamics 365. Estas plataformas, diseñadas originalmente para procesos transaccionales controlados por usuarios, deben adaptarse para permitir que agentes IA ejecuten operaciones autónomas en tiempo real. Una empresa manufacturera en México que usa SAP, por ejemplo, necesitaría reimaginar cómo sus módulos de logística y compras procesan órdenes cuando un agente IA las genera a velocidad de máquina, no de empleado. De igual modo, implementadores de Odoo en Perú y Colombia enfrentan el reto de modernizar bases de datos y APIs que fueron construidas asumiendo latencia humana. La oportunidad radica en que empresas que inviertan ahora en esta modernización de infraestructura obtendrán ventajas competitivas significativas antes que sus competidores.
Las lecciones prácticas extraídas de estos casos apuntan a tres estrategias fundamentales. Primero, invertir en evaluaciones (evals) antes de cualquier otra cosa, ya que fuerzan la descomposición del problema y aceleran la iteración. Segundo, colocar el armazón de agentes en manos de usuarios finales desde el inicio, con infraestructura de monitoreo integrada, lo que desbloquea innovación distribuida. Tercero, construir para independencia: garantizar que los sistemas funcionen tanto con modelos frontera como con modelos de código abierto, manteniendo el contexto y la memoria dentro de la empresa. LinkedIn implementó un gateway de IA único que estandariza todas las llamadas a modelos, permitiendo cambiar proveedores sin fricción. Walmart construyó su propio gateway interno para mantenerse agnóstico a proveedores en tres tipos de cargas de trabajo: flujos completamente determinísticos, flujos de planificador-razonador para tareas abiertas, e híbridos. Esta flexibilidad es crítica porque el panorama de proveedores de IA sigue evolucionando rápidamente.
Para empresarios e inversores latinoamericanos, esta transformación representa un momento decisivo. Las organizaciones que aún dependen de ERP heredados sin estrategia de modernización de infraestructura enfrentarán crecientes limitaciones competitivas. El costo de actualizar infraestructura no es trivial, pero el costo de quedarse atrás es exponencialmente mayor. Las startups que construyan herramientas de evaluación, governance y orquestación de agentes para entornos ERP específicos encontrarán un mercado receptivo. Inversores deben buscar empresas que demuestren comprensión profunda de que los cuellos de botella en IA empresarial no son algorítmicos sino arquitectónicos. Las empresas que logren resolver estos desafíos de infraestructura antes que sus competidores no solo adoptarán agentes IA más efectivamente, sino que extraerán valor exponencialmente mayor de sus inversiones tecnológicas existentes, creando una brecha competitiva duradera en sus mercados.
