Las organizaciones que implementan agentes de IA pueden enfrentarse a una exposición financiera significativa si se permite que los sistemas consuman recursos informáticos, tokens de modelos o servicios externos sin límites eficaces. OWASP identifica el consumo sin límites como el sexto riesgo en su Top 10 para Aplicaciones de Modelos de Lenguaje de Gran Tamaño.
El problema puede surgir cuando una aplicación habilitada para IA llama repetidamente a un modelo de lenguaje, inicia tareas de larga duración, procesa entradas inusualmente grandes o activa herramientas de terceros costosas. En entornos basados en agentes, el riesgo puede aumentar porque un sistema puede encadenar de forma autónoma acciones y solicitudes para alcanzar un objetivo asignado.
A diferencia de una aplicación convencional con volúmenes de transacciones previsibles, un agente puede generar cargas de trabajo variables según las indicaciones de los usuarios, las herramientas disponibles, el comportamiento de reintento y la complejidad de su proceso de razonamiento. Por lo tanto, un flujo de trabajo con restricciones deficientes podría generar cargos de uso inesperadamente elevados o ejercer presión sobre la infraestructura interna.
Posible impacto empresarial
El consumo descontrolado puede afectar más que la factura de la nube o de las API de IA de una organización. Las solicitudes excesivas pueden reducir la disponibilidad del servicio para otros usuarios, agotar los límites de velocidad y dificultar que los equipos de seguridad y operaciones distingan la actividad legítima del abuso. Los atacantes también podrían intentar explotar operaciones costosas del modelo o llamadas automatizadas a herramientas para causar daños financieros.
Controles que se deben considerar
- Establecer límites de gasto, tokens, solicitudes y tiempo de ejecución para las cargas de trabajo de IA.
- Aplicar limitación de velocidad y cuotas por usuario, inquilino, flujo de trabajo y agente.
- Exigir aprobación o comprobaciones adicionales antes de realizar acciones de alto costo.
- Supervisar el uso del modelo, las invocaciones de herramientas, los reintentos y la duración anómala de las tareas.
- Diseñar los agentes para que se detengan de forma segura cuando se alcancen presupuestos, límites de tiempo o umbrales de error.
A medida que las empresas amplían el uso de sistemas de IA autónomos y semiautónomos, la gobernanza de costos se está convirtiendo tanto en una preocupación de seguridad y resiliencia como financiera. Unos límites claros y una supervisión continua pueden ayudar a reducir la probabilidad de que un agente de IA convierta una automatización útil en un gasto incontrolado.