NCSC ruft zu vorsichtiger Zusammenarbeit bei KI für die britische Cyberabwehr auf

Das britische National Cyber Security Centre erklärt, dass künstliche Intelligenz künftig eine wichtige Rolle bei der Cyberabwehr spielen könnte – allerdings nur, wenn Organisationen sie sorgfältig einsetzen und grundlegende Sicherheitsmaßnahmen beibehalten.

In einem kürzlich veröffentlichten Blogbeitrag erklärte das NCSC, dass KI Verteidigern dabei helfen könnte, die Erkennung von Bedrohungen zu verbessern, Schwachstellen in Netzwerken und Software zu identifizieren, Teile des Sicherheitsbetriebs zu automatisieren und die Reaktion auf Sicherheitsvorfälle zu beschleunigen. Die Behörde bezeichnete diese Bereiche als vielversprechend, warnte jedoch, dass die praktische Einführung wahrscheinlich schrittweise und nicht unmittelbar erfolgen werde.

Nach Angaben des NCSC können moderne KI-Systeme bestimmte Sicherheitsaufgaben mitunter gut bewältigen. Sie können jedoch auch inkonsistent, schwer zu testen und nur schwer sicher in bestehende Umgebungen zu integrieren sein. Die Organisation erklärte, dass die Einführung daher neue Fähigkeiten, klare Kontrollmechanismen und Zeit zur Weiterentwicklung erfordern werde.

Peter Haigh, stellvertretender Chief Technology Officer des NCSC, argumentierte, dass eine Zusammenarbeit zwischen Wirtschaft, Regierung und Wissenschaft erforderlich sein werde, um den Einsatz von KI in der defensiven Cybersicherheit zu unterstützen. Diese Aussage steht im Einklang mit Äußerungen von Sicherheitsminister Dan Jarvis, der auf der CYBERUK 2026 ebenfalls die Notwendigkeit einer gemeinsamen Arbeit an KI-gestützter Cyberabwehr hervorhob.

Zentrale zu bewältigende Risiken

Das NCSC führte mehrere Aspekte auf, die Verteidiger berücksichtigen müssen, bevor sie KI-Tools umfassender einsetzen:

• Genehmigung und Risikomanagement für neue Implementierungen
• rechtliche und politische Vorgaben sowie Anforderungen an die menschliche Aufsicht
• sichere Systemkonzeption nach dem Prinzip „Security by Default“ und Sandboxing
• sichere Integration in bestehende Tools und Arbeitsabläufe
• Schutz von Daten, geistigem Eigentum und sensiblen Informationen
• Überwachung von Anbietern und anderen Teilen der Lieferkette
• Tests zur Bestätigung, dass Ergebnisse korrekt und nützlich sind
• sorgfältiger Umgang mit KI-gestützten Empfehlungen und automatisierten Reaktionen

Die Behörde erklärte, dass KI möglicherweise besser darin sei, Sicherheitsprobleme zu erkennen, als eigenständig sichere Korrekturmaßnahmen umzusetzen. Daher sollten Organisationen KI nicht als Ersatz für eine gute Cyberhygiene betrachten.

Stattdessen erklärte das NCSC, dass grundlegende Sicherheitspraktiken wie das Einspielen von Patches, sichere Konfigurationen, Zugriffskontrolle und Überwachung weiterhin die unmittelbare Priorität haben – auch wenn die Entwicklung fortschrittlicherer KI-basierter Abwehrmaßnahmen weitergeht.