KI-gestützte Workflows geben Anlass zur Sorge über verborgene Sicherheitslücken

Sicherheitsteams achten zunehmend auf ein wachsendes Risiko in der modernen Automatisierung: von KI-Tools erstellte Workflows, die zwar korrekt funktionieren, von den Menschen, die sich auf sie verlassen, jedoch nicht vollständig verstanden werden. Es geht nicht darum, ob die Automatisierung funktioniert, sondern darum, ob jemand erklären kann, was sie tut, warum sie auf diese Weise erstellt wurde oder wie sie missbraucht werden könnte.

Da Unternehmen KI-gestützte Entwicklungs- und Low-Code-Automatisierungsplattformen einsetzen, können sie schnell Skripte, Integrationen und Geschäftsprozesse erstellen, die Zeit sparen. Diese Geschwindigkeit kann jedoch zulasten der Transparenz gehen. Wird ein Workflow mit minimaler menschlicher Prüfung zusammengestellt, sind Sicherheitskontrollen möglicherweise unvollständig, Berechtigungen umfassender als nötig und Daten werden möglicherweise auf schwer nachvollziehbare Weise zwischen Systemen übertragen.

Warum das Risiko relevant ist

Experten zufolge besteht die größte Sorge nicht einfach darin, dass KI Fehler verursachen kann. Das größere Problem ist, dass diese Systeme eine Form des betrieblichen blinden Flecks schaffen können. Ist ein Workflow nicht dokumentiert oder wird er nicht verstanden, wissen Verteidiger möglicherweise nicht, welche Dienste er nutzt, welche Zugangsdaten er verwendet oder wo sensible Informationen gespeichert und übertragen werden.

• Unklare Logik kann es erschweren, Schwachstellen zu erkennen, bevor Angreifer dies tun.
• Übermäßige Zugriffsrechte können nach der Bereitstellung eines Workflows unbemerkt bestehen bleiben.
• Verborgene Abhängigkeiten können die Sicherheitsüberwachung und die Reaktion auf Sicherheitsvorfälle beeinträchtigen.

Was Unternehmen empfohlen wird

Spezialisten empfehlen, KI-generierte Automatisierung wie jedes andere Produktionssystem zu behandeln: Sie zu prüfen, zu testen, zu dokumentieren und ihre Berechtigungen zu beschränken. Regelmäßige Audits können dabei helfen, Workflows zu identifizieren, die nicht mehr den geschäftlichen Anforderungen entsprechen oder Aktionen ausführen, die niemand im Team eindeutig erklären kann. Unternehmen wird außerdem empfohlen, für Workflows, die sensible Daten verarbeiten oder Verbindungen zu kritischen Systemen herstellen, eine menschliche Genehmigung zu verlangen.

Da KI im täglichen Betrieb immer häufiger zum Einsatz kommt, verlagert sich die Herausforderung für Sicherheitsteams von der schnellen Erstellung von Automatisierungen hin zu einem ausreichenden Verständnis, um diese kontrollieren zu können. In vielen Umgebungen könnte dies den Unterschied zwischen effizienten Abläufen und einer unbemerkt wachsenden Sicherheitsgefährdung ausmachen.