Les organisations qui déploient des agents IA peuvent s’exposer à des risques financiers importants si les systèmes sont autorisés à consommer des ressources de calcul, des jetons de modèle ou des services externes sans limites efficaces. L’OWASP identifie la consommation non bornée comme le sixième risque de son Top 10 des applications de grands modèles de langage.
Le problème peut survenir lorsqu’une application reposant sur l’IA appelle de manière répétée un modèle de langage, lance des tâches de longue durée, traite des entrées inhabituellement volumineuses ou déclenche des outils tiers coûteux. Dans les environnements basés sur des agents, le risque peut augmenter, car un système peut enchaîner de manière autonome des actions et des requêtes afin d’atteindre un objectif qui lui a été assigné.
Contrairement à une application classique dont les volumes de transactions sont prévisibles, un agent peut générer des charges de travail variables selon les requêtes des utilisateurs, les outils disponibles, le comportement de relance et la complexité de son processus de raisonnement. Un flux de travail insuffisamment contraint pourrait donc engendrer des coûts d’utilisation imprévus ou exercer une pression sur l’infrastructure interne.
Impact potentiel sur l’entreprise
Une consommation incontrôlée peut affecter davantage que la facture de cloud ou d’API d’IA d’une organisation. Des requêtes excessives peuvent réduire la disponibilité du service pour les autres utilisateurs, épuiser les limites de débit et compliquer la distinction entre une activité légitime et un abus pour les équipes de sécurité et d’exploitation. Des attaquants pourraient également tenter d’exploiter des opérations de modèle coûteuses ou des appels automatisés à des outils afin de causer un préjudice financier.
Mesures de contrôle à envisager
- Définir des limites de dépenses, de jetons, de requêtes et de temps d’exécution pour les charges de travail d’IA.
- Appliquer une limitation du débit et des quotas par utilisateur, locataire, flux de travail et agent.
- Exiger une approbation ou des vérifications supplémentaires avant l’exécution d’actions coûteuses.
- Surveiller l’utilisation des modèles, les invocations d’outils, les tentatives de relance et les durées de tâche anormales.
- Concevoir les agents pour qu’ils s’arrêtent en toute sécurité lorsque les budgets, les délais ou les seuils d’erreur sont atteints.
À mesure que les entreprises étendent l’utilisation de systèmes d’IA autonomes et semi-autonomes, la gouvernance des coûts devient une préoccupation de sécurité et de résilience autant que financière. Des limites claires et une surveillance continue peuvent contribuer à réduire le risque qu’un agent IA transforme une automatisation par ailleurs utile en une dépense incontrôlée.