Das britische National Cyber Security Centre (NCSC) hat seinen Forschungsproblemkatalog um ein neues Kapitel zu künstlicher Intelligenz und Cybersicherheit erweitert. Die Ergänzung soll die Forschung zu den Chancen, Risiken und ungeklärten technischen Fragen lenken, die durch immer leistungsfähigere KI-Systeme entstehen.
Die Behörde erklärte, dass neuere generative und agentenbasierte KI-Tools Schlussfolgerungen ziehen, planen, externe Tools nutzen und Aufgaben mit zunehmender Autonomie ausführen können. Während solche Fähigkeiten Verteidigern dabei helfen könnten, Sicherheitsdaten zu analysieren, Bedrohungen zu erkennen und Routinearbeiten zu automatisieren, könnten sie Angreifern auch ermöglichen, schneller und in größerem Umfang vorzugehen.
Drei Schwerpunktbereiche
Das Kapitel mit dem Titel KI bei Cybersicherheitsproblemen benennt sieben Forschungsbereiche, die sich um drei Themen gliedern:
- Einsatz von KI zur Verbesserung der Cyberabwehr;
- Absicherung und Gewährleistung von KI-Systemen; und
- Anwendung datengetriebener Ansätze zur Stärkung der Resilienz im großen Maßstab.
Das NCSC erklärte, dass bestehende Sicherheitspraktiken, einschließlich Schwachstellenmanagement, Incident Response und Risikomanagement, möglicherweise an Umgebungen angepasst werden müssen, in denen sowohl Systeme als auch Angreifer KI-gestützt sind. Es deutete an, dass einige Prozesse grundlegender umgestaltet werden müssten, damit Organisationen von der Automatisierung profitieren und zugleich die damit verbundenen Risiken kontrollieren können.
Menschliche Aufsicht bleibt zentral
Eine zentrale Frage, die sich durch die Forschungsagenda zieht, ist die Beziehung zwischen Menschen und KI-Systemen. Das NCSC erklärte, es seien weitere Arbeiten erforderlich, um festzulegen, wo autonomer Betrieb wesentliche Vorteile bietet, wo menschliches Urteilsvermögen weiterhin einbezogen werden sollte und wie Organisationen eine wirksame Aufsicht aufrechterhalten können, ohne defensive Aktivitäten mit Maschinengeschwindigkeit zu verlangsamen.
Das Update folgt auf umfassendere Warnungen der Cybersicherheitsbehörden der Five Eyes, wonach KI das Tempo und den Umfang von Cyberbedrohungen verändert. Es steht zudem im Einklang mit der Cyber-Shield-Initiative des NCSC, die ein langfristiges Ziel skizziert, KI zur Verbesserung der britischen Cyberabwehr einzusetzen.
Die Behörde bittet Wissenschaft, Industrie und Regierung um Rückmeldungen zu den vorgeschlagenen Herausforderungen, zusätzlichen Forschungsfragen und Projekten, die diese adressieren könnten. Das NCSC erklärte, Beiträge könnten dabei helfen, Cybersicherheitsansätze zu gestalten, die wirksam, resilient und vertrauenswürdig bleiben, wenn KI zunehmend breiter eingesetzt wird.
