Sicherheitsverantwortliche werden dazu aufgefordert, die Vorbereitungen auf eine neue Phase KI-gestützter Cyberrisiken zu beschleunigen, da Spitzenmodelle zunehmend in der Lage sind, komplexe technische Aufgaben mit begrenzter menschlicher Anleitung auszuführen.
Jüngste Demonstrationen haben gezeigt, dass fortschrittliche KI-Systeme mitunter Aktivitäten verknüpfen können, die mit einer vollständigen Kompromittierung verbunden sind. Abhängig von ihrem Zugriff, ihren Werkzeugen und Schutzvorkehrungen können solche Systeme Schwachstellen identifizieren, mit exponierten Diensten interagieren, Code schreiben oder anpassen und weitere Folgemaßnahmen verfolgen. Diese Fähigkeiten können in autorisierten Testumgebungen eingesetzt werden, sie wecken jedoch auch Bedenken hinsichtlich eines Missbrauchs durch kriminelle Gruppen und andere Bedrohungsakteure.
Die verfügbaren Erkenntnisse bedeuten nicht, dass vollständig autonome, zuverlässige Angriffe bereits alltäglich sind. Aktuelle Modelle können Fehler machen, verfügen nicht über Ausdauer und benötigen häufig menschliche Aufsicht oder externe Werkzeuge. Das Tempo der Weiterentwicklung hat jedoch einige Beobachter zu der Warnung veranlasst, dass Organisationen möglicherweise nur Monate – und nicht Jahre – Zeit haben, um ihre Widerstandsfähigkeit gegen stärker automatisierte Eindringversuche zu verbessern.
Prioritäten für die Verteidigung
Unternehmen können ihre Angriffsfläche verringern, indem sie sich auf Kontrollen konzentrieren, die die Auswirkungen sowohl KI-gestützter als auch herkömmlicher Angriffe begrenzen:
- Genaue Bestandsverzeichnisse von Assets führen und internetexponierte Systeme schnell patchen.
- Phishing-resistente Multifaktor-Authentifizierung verlangen und Zugriffsrichtlinien nach dem Least-Privilege-Prinzip anwenden.
- Telemetriedaten zu Identitäten, Endpunkten, Cloud-Umgebungen und Netzwerken auf ungewöhnliche Aktivitätsabfolgen überwachen.
- Pläne zur Reaktion auf Sicherheitsvorfälle anhand schnellerer Angriffsszenarien mit höherem Volumen testen.
- Kontrollen rund um KI-Werkzeuge überprüfen, einschließlich Berechtigungen, API-Schlüsseln, Datenzugriff und Protokollierung.
Sicherheitsteams sollten zudem zwischen Hype und messbarem Risiko unterscheiden. Bei der Bedrohungsmodellierung sollte berücksichtigt werden, wie ein Angreifer KI zur Ausweitung von Aufklärung, Social Engineering, Schwachstellenforschung oder Automatisierung nutzen könnte – statt anzunehmen, dass jedes Modell eigenständig einen komplexen Einbruch durchführen kann.
Die zentrale Sorge betrifft Umfang und Geschwindigkeit. Wenn leistungsfähige Modelle die erforderlichen Fähigkeiten und den Zeitaufwand für Teile eines Eindringens verringern, könnten Verteidiger mit häufigeren und stärker zugeschnittenen Versuchen konfrontiert werden. Investitionen in grundlegende Cyberhygiene, Detection Engineering und eingeübte Reaktionsverfahren bleiben die unmittelbarste Möglichkeit zur Vorbereitung.
