SecurityWeek-Interview untersucht Governance-Lücken und agentische KI in der Cybersicherheit

In einem neuen Video-Interview von SecurityWeek wird untersucht, ob Governance- und Compliance-Praktiken in der Cybersicherheit mit der rasanten Einführung künstlicher Intelligenz Schritt halten – insbesondere bei Systemen, die in der Lage sind, autonom im Namen von Sicherheitsteams zu handeln.

Brian „SchleiF“ Schleifer spricht mit Clint Bodungen, dem Leiter der KI-/ML-Entwicklung bei Arcovo und Gründer von ThreatGen. Bodungen, der sich intensiv mit industrieller Cybersicherheit beschäftigt, erörtert, wie sich Sicherheitspraktiken in den vergangenen 20 Jahren verändert haben und warum organisatorische Prozesse häufig nicht die Realitäten widerspiegeln, mit denen Praktiker konfrontiert sind.

Ein Thema des Gesprächs ist die anhaltende Bedeutung menschlichen Verhaltens. Obwohl neue Technologien neue Risiken und Möglichkeiten mit sich bringen, argumentiert das Interview, dass Menschen – und nicht allein Software – bei vielen Sicherheitsverletzungen weiterhin ein zentraler Faktor sind. Außerdem wird erörtert, wie Governance-Modelle von den betrieblichen Anforderungen abgekoppelt werden können, wodurch die Wirksamkeit von Sicherheits- und Compliance-Programmen möglicherweise eingeschränkt wird.

MindStone-Agent-Projekt

Bodungen liefert außerdem Einzelheiten zum MindStone Agent, einem Open-Source-Projekt für agentische künstliche Intelligenz. Dem Interview zufolge soll das Projekt KI-Assistenten ein dauerhaftes Gedächtnis, einen identifizierbaren Kontext und Kontinuität über mehrere Interaktionen hinweg geben. Diese Funktionen sollen ein konsistenteres Verhalten ermöglichen als bei Systemen, die jede Sitzung als isoliert betrachten.

Im Interview wird das Projekt als Beispiel dafür vorgestellt, wie agentische KI über einfache Frage-und-Antwort-Anwendungsfälle hinausgehen könnte. Gleichzeitig werfen dauerhaftes Gedächtnis und autonomes Handeln Fragen zu Governance, Identität, Aufsicht und Sicherheit auf, die Unternehmen klären müssen, bevor sie solche Systeme umfassend einsetzen.

Beispiel für die Reaktion auf Ransomware

Das Gespräch endet mit einem realen Szenario zur Reaktion auf einen Ransomware-Angriff, in dem autonome KI-Agenten Berichten zufolge die Koordinierung von Incident Response, forensischen Arbeiten, Wiederherstellungsmaßnahmen und der Migration von Infrastruktur mit begrenzter menschlicher Beteiligung unterstützten. Das Beispiel verdeutlicht das Potenzial agentischer Systeme, komplexe und zeitkritische Abläufe zu unterstützen, unterstreicht jedoch auch die Notwendigkeit geeigneter Kontrollen und menschlicher Verantwortlichkeit.

Das vollständige Gespräch ist über SecurityWeek TV verfügbar und wird im Zusammenhang mit dem Konferenzprogramm der Publikation zur industriellen Cybersicherheit beworben.