Le organizzazioni che implementano agenti IA possono affrontare una significativa esposizione finanziaria se ai sistemi viene consentito di consumare risorse di calcolo, token dei modelli o servizi esterni senza limiti efficaci. OWASP identifica il consumo illimitato come il sesto rischio nella sua Top 10 per le applicazioni basate su Large Language Model.
Il problema può sorgere quando un'applicazione abilitata dall'IA richiama ripetutamente un modello linguistico, avvia attività di lunga durata, elabora input insolitamente grandi o attiva strumenti di terze parti costosi. Negli ambienti basati su agenti, il rischio può aumentare poiché un sistema può concatenare autonomamente azioni e richieste per perseguire un obiettivo assegnato.
A differenza di un'applicazione convenzionale con volumi di transazioni prevedibili, un agente può generare carichi di lavoro variabili in base ai prompt degli utenti, agli strumenti disponibili, al comportamento dei tentativi ripetuti e alla complessità del suo processo di ragionamento. Un workflow soggetto a vincoli insufficienti potrebbe quindi generare costi di utilizzo inaspettatamente elevati o mettere sotto pressione l'infrastruttura interna.
Potenziale impatto aziendale
Il consumo fuori controllo può incidere su più aspetti oltre alla fattura dell'organizzazione per il cloud o le API IA. Richieste eccessive possono ridurre la disponibilità del servizio per altri utenti, esaurire i limiti di frequenza e rendere più difficile per i team di sicurezza e operativi distinguere l'attività legittima dagli abusi. Gli attaccanti potrebbero inoltre tentare di sfruttare costose operazioni dei modelli o chiamate automatizzate agli strumenti per causare danni finanziari.
Controlli da considerare
- Impostare limiti di spesa, token, richieste e tempo di esecuzione per i carichi di lavoro IA.
- Applicare limitazioni della frequenza e quote per utente, tenant, workflow e agente.
- Richiedere approvazione o controlli aggiuntivi prima di eseguire azioni ad alto costo.
- Monitorare l'utilizzo dei modelli, le invocazioni degli strumenti, i tentativi ripetuti e la durata anomala delle attività.
- Progettare gli agenti affinché si arrestino in sicurezza al raggiungimento di budget, limiti di tempo o soglie di errore.
Con l'espansione dell'uso aziendale di sistemi IA autonomi e semi-autonomi, la governance dei costi sta diventando una questione di sicurezza e resilienza oltre che finanziaria. Limiti chiari e monitoraggio continuo possono contribuire a ridurre la probabilità che un agente IA trasformi un'automazione altrimenti utile in una spesa incontrollata.