Organisationen, die KI-Agenten einsetzen, können erheblichen finanziellen Risiken ausgesetzt sein, wenn Systeme Rechenressourcen, Modell-Token oder externe Dienste ohne wirksame Begrenzungen verbrauchen dürfen. OWASP führt unbegrenzten Ressourcenverbrauch als sechstes Risiko in seinen Top 10 für Anwendungen mit großen Sprachmodellen auf.
Das Problem kann entstehen, wenn eine KI-gestützte Anwendung wiederholt ein Sprachmodell aufruft, lang laufende Aufgaben startet, ungewöhnlich große Eingaben verarbeitet oder kostspielige Tools von Drittanbietern auslöst. In agentenbasierten Umgebungen kann das Risiko steigen, da ein System bei der Verfolgung eines zugewiesenen Ziels autonom Aktionen und Anfragen miteinander verketten kann.
Anders als eine herkömmliche Anwendung mit vorhersehbaren Transaktionsvolumina kann ein Agent abhängig von Benutzer-Prompts, verfügbaren Tools, Wiederholungsverhalten und der Komplexität seines Schlussfolgerungsprozesses variable Arbeitslasten erzeugen. Ein unzureichend eingeschränkter Workflow könnte daher unerwartet hohe Nutzungsgebühren verursachen oder die interne Infrastruktur belasten.
Mögliche geschäftliche Auswirkungen
Unkontrollierter Ressourcenverbrauch kann mehr als nur die Cloud- oder KI-API-Rechnung einer Organisation beeinträchtigen. Übermäßige Anfragen können die Dienstverfügbarkeit für andere Nutzer verringern, Ratenlimits ausschöpfen und es Sicherheits- und Betriebsteams erschweren, legitime Aktivitäten von Missbrauch zu unterscheiden. Angreifer könnten zudem versuchen, kostspielige Modelloperationen oder automatisierte Tool-Aufrufe auszunutzen, um finanziellen Schaden zu verursachen.
Zu erwägende Kontrollen
- Legen Sie Ausgaben-, Token-, Anfrage- und Ausführungszeitlimits für KI-Workloads fest.
- Wenden Sie Ratenbegrenzungen und Kontingente nach Nutzer, Mandant, Workflow und Agent an.
- Fordern Sie eine Genehmigung oder zusätzliche Prüfungen, bevor kostenintensive Aktionen ausgeführt werden.
- Überwachen Sie die Modellnutzung, Tool-Aufrufe, Wiederholungen und ungewöhnliche Aufgabendauern.
- Gestalten Sie Agenten so, dass sie sicher anhalten, wenn Budgets, Zeitlimits oder Fehlerschwellen erreicht werden.
Da Unternehmen den Einsatz autonomer und teilautonomer KI-Systeme ausweiten, wird Kosten-Governance neben dem finanziellen Aspekt auch zu einem Thema der Sicherheit und Resilienz. Klare Grenzen und kontinuierliche Überwachung können dazu beitragen, das Risiko zu verringern, dass ein KI-Agent eine ansonsten nützliche Automatisierung in eine unkontrollierte Ausgabe verwandelt.