Organisationen zeigen ein wachsendes Interesse an offensiven Sicherheitsfähigkeiten, da die Sorgen über KI-gestützte Bedrohungen weiter steigen, wie aus einem Gespräch zwischen der Omdia-Analystin Theresa Lanowitz und dem Dark Reading News Desk hervorgeht.
Das Gespräch konzentrierte sich auf den möglichen Einsatz agentenbasierter KI bei Penetrationstests, Red-Team-Übungen und damit verbundenen Arbeiten zur Sicherheitsvalidierung. Agentenbasierte Systeme könnten potenziell dabei helfen, Teile dieser Aktivitäten zu automatisieren, indem sie mehrstufige Aufgaben ausführen, Ergebnisse bewerten und Testabläufe auf Grundlage der Resultate anpassen.
Für Verteidiger liegt der Nutzen auf der Hand: Sicherheitsteams sind häufig mit begrenzter Personalstärke, wachsenden Angriffsflächen und der Notwendigkeit konfrontiert, Sicherheitskontrollen häufiger zu testen. KI-gestützte offensive Tests können Teams dabei helfen, Schwachstellen schneller zu identifizieren, Abhilfemaßnahmen zu priorisieren und Angreiferverhalten in größerem Maßstab zu simulieren.
Dieselben Fähigkeiten bringen jedoch erhebliche Risiken mit sich. Systeme, die dafür ausgelegt sind, Netzwerke autonom zu untersuchen oder Testaktionen auszuführen, erfordern strikte Autorisierung, klar definierte Grenzen und eine wirksame Aufsicht. Ohne diese Kontrollen könnten automatisierte Werkzeuge Produktionsumgebungen beeinträchtigen, auf sensible Informationen zugreifen oder über ihren vorgesehenen Rahmen hinaus missbraucht werden.
Automatisierung und Aufsicht in Einklang bringen
Organisationen, die agentenbasierte KI für Sicherheitstests bewerten, sollten sie als Ergänzung für erfahrene Fachkräfte und nicht als Ersatz für menschliches Urteilsvermögen betrachten. Penetrationstests und Red-Team-Einsätze erfordern eine sorgfältige Festlegung des Umfangs, Einsatzregeln und Rechenschaftspflicht für die während einer Bewertung durchgeführten Aktionen.
- Autorisierte Ziele, Testzeiträume und untersagte Aktionen definieren.
- Für folgenschwere Aktionen und Erkenntnisse eine menschliche Überprüfung verlangen.
- Protokolle über Tool-Aktivitäten, Prompts, Entscheidungen und Ausgaben führen.
- Anmeldedaten, Kundendaten und andere bei den Tests verwendete sensible Informationen schützen.
- KI-generierte Ergebnisse validieren, bevor sie als bestätigte Schwachstellen eskaliert werden.
Mit zunehmender Leistungsfähigkeit von KI werden sowohl Angreifer als auch Verteidiger sie voraussichtlich in ihre Arbeitsabläufe integrieren. Die zentrale Herausforderung für Sicherheitsverantwortliche wird darin bestehen, Automatisierung so einzuführen, dass sie Testabdeckung und Geschwindigkeit verbessert, ohne operative Schutzmaßnahmen oder Governance zu schwächen.
