Agenten der künstlichen Intelligenz entwickeln sich sowohl zu einem leistungsstarken Offensivwerkzeug als auch zu einer neuen Sicherheitsherausforderung für Unternehmen. Anders als herkömmliche Software können diese Systeme Aktionen in vernetzten Umgebungen ausführen und Angreifern potenziell automatisierte Unterstützung bei Aufklärung, Schwachstellensuche, Exploit-Entwicklung und der Identifizierung sensibler Daten bieten.
Matt Hartman, ehemaliger kommissarischer Leiter für Cybersicherheit bei der US-Behörde Cybersecurity and Infrastructure Security Agency, sagte, Unternehmen sollten jeden Agenten mit Zugriff auf sensible Systeme als privilegierte Identität behandeln. Agenten schaffen zusätzliche Integrationspunkte und nicht-menschliche Konten, die möglicherweise schwer nachzuverfolgen sind, während statische Sicherheitsrichtlinien ihr sich wandelndes Verhalten möglicherweise nicht abbilden.
KI verbessert zudem herkömmliche kriminelle Methoden. Hochgradig personalisierte Phishing-Angriffe, überzeugende Identitätsvortäuschungen und automatisierte Aufklärung können traditionelle Vertrauensindikatoren weniger verlässlich machen. Hartman nannte phishing-resistente Authentifizierung, starke Identitätskontrollen, verhaltensbasierte Überwachung und Zero-Trust-Praktiken als wichtige Abwehrmaßnahmen.
Red Teaming in Maschinengeschwindigkeit
Sicherheitsverantwortliche argumentieren zunehmend, dass Unternehmen KI-Agenten einsetzen sollten, um ihre eigenen Systeme zu testen, bevor Angreifer dies tun. Der ehemalige Cybersicherheitschef der National Security Agency, Rob Joyce, hat gewarnt, dass Unternehmen unabhängig davon von Angreifern bewertet werden, ob sie selbst eine Übung beauftragen; der Unterschied besteht darin, wer die Ergebnisse erhält.
Dieser Ansatz, häufig als agentisches Red Teaming bezeichnet, soll kontinuierliche oder häufige Tests statt der periodischen, von Menschen geleiteten Bewertungen ermöglichen, die traditionell als Beratungsleistungen erbracht werden. Die Systeme erfordern weiterhin menschliche Aufsicht, Training und sorgfältig definierte Grenzen, insbesondere beim Testen von Produktionsinfrastrukturen oder sensiblen Umgebungen.
Armadin, ein von ehemaligen Mandiant-Führungskräften gegründetes Unternehmen, und der Anbieter für Security Operations Tenex.ai beschrieben kürzlich eine dreitägige Übung für ein ungenanntes globales Unternehmen. Den Angaben der Unternehmen zufolge führte ein Angreifer-Schwarm 17 Millionen offensive Aktionen aus, identifizierte 38 validierte Angriffspfade und erzeugte 238 Befunde. Tenex.ai berichtete, mehr als 100.000 Warnmeldungen verarbeitet und die Aktivitäten anhand von 231 Milliarden Rohereignissen rekonstruiert zu haben. Die Anbieter schätzten, dass ein herkömmliches fünfköpfiges Team für vergleichbare Arbeit ungefähr vier Monate benötigt hätte.
Solche Zahlen stammen von Anbietern, die diese Technologie vermarkten, und sollten entsprechend bewertet werden. Dennoch ist der zugrunde liegende Trend klar: Da KI die Kosten und den Zeitaufwand für das Ausloten von Systemen senkt, benötigen Verteidiger möglicherweise automatisierte Tests, um eine vergleichbare Transparenz aufrechtzuerhalten. Sichere Autorisierung, Isolierung, Überwachung und menschliche Freigabe bleiben unverzichtbar, damit defensive Simulationen nicht zu realen Sicherheitsvorfällen werden.
