← Zurück zu den Neuigkeiten
SecurityWeek20. Okt. 2026 · 2 Min. Lesezeit

US-Behörden skizzieren Rahmenwerk für die Reaktion auf Vorfälle mit unbefugtem Verhalten von KI-Agenten

Das National Institute of Standards and Technology, die Cybersecurity and Infrastructure Security Agency und die National Security Agency haben freiwillige Leitlinien für Organisationen veröffentlicht...

Das National Institute of Standards and Technology, die Cybersecurity and Infrastructure Security Agency und die National Security Agency haben freiwillige Leitlinien für Organisationen veröffentlicht, die sich auf Vorfälle mit fortschrittlichen KI-Agenten vorbereiten, die außerhalb ihrer vorgesehenen Befugnisse handeln.

Das Dokument enthält zehn Praktiken, die auf fünf Phasen verteilt sind: Vorbereitung, Erkennung, Reaktion, Wiederherstellung und Meldung. Die Behörden beschreiben die Leitlinien als Rahmenwerk für Organisationen, die hochleistungsfähige agentische Systeme entwickeln oder einsetzen, insbesondere dort, wo unerwartetes Systemverhalten Cybersicherheits-, Betriebs- oder Sicherheitsrisiken verursachen könnte.

Vorbereitung auf agentenbezogene Vorfälle

Die Empfehlungen zur Vorbereitung orientieren sich eng an etablierten Grundsätzen der Cybersicherheit. Organisationen wird empfohlen, Inventare ihrer KI-Ressourcen und Risiken zu führen, mehrschichtige Schutzmaßnahmen anzuwenden, Zugriffe nach dem Prinzip der geringsten Berechtigung durchzusetzen, Zero-Trust-Ansätze zu nutzen, Anmeldedaten zu schützen und Risiken in der Lieferkette zu adressieren. Ziel ist es, zu begrenzen, worauf ein Agent zugreifen oder was er verändern kann, falls er kompromittiert, falsch konfiguriert wird oder sich unbefugt verhält.

Zur Erkennung raten die Behörden zu einer kontinuierlichen Überwachung von Agenten und ihren Umgebungen. Dazu gehört die Prüfung, ob Systeme erwartungsgemäß arbeiten, die Identifizierung ungewöhnlicher Aktionen sowie die Beobachtung auf Kompromittierungsindikatoren.

Eindämmung, Wiederherstellung und Offenlegung

Zu den Reaktionsmaßnahmen gehören die Isolierung betroffener Systeme, der Entzug von Anmeldedaten, der Neuaufbau kompromittierter Umgebungen und die Bewertung des Umfangs eines Vorfalls. Die Leitlinien fordern außerdem eine Ursachenanalyse, die begünstigende Umstände untersucht, statt sich ausschließlich auf die unmittelbare Schwachstelle oder den Angriffsweg zu konzentrieren.

Laut dem Bericht sollten Organisationen Wiederherstellungsverfahren testen, bevor ein Vorfall eintritt. Während der Wiederherstellung sollten sie wichtige Entscheidungen dokumentieren, einschließlich verbleibender Risiken, die akzeptiert werden, bevor betroffene Dienste wieder in Betrieb genommen werden.

Die letzten Praktiken betreffen die Meldung von Vorfällen. Die Behörden empfehlen, betroffene Parteien zu benachrichtigen und geltende gesetzliche Meldepflichten zu erfüllen, zu denen Meldungen an CISA, Strafverfolgungsbehörden oder Organisationen der Cyberabwehr gehören können. Sie ermutigen außerdem dazu, nützliche Erkenntnisse, Minderungsmaßnahmen und gewonnene Erfahrungen öffentlich zu teilen, sofern dies angemessen und umsetzbar ist.

Gemeinsame Terminologie

Die Veröffentlichung definiert Begriffe wie KI-Agenten, KI-Kontrollvorfälle und Beinahevorfälle bei der KI-Kontrolle, um Organisationen bei der Etablierung eines gemeinsamen Vokabulars zu unterstützen. Die Empfehlungen führen zwar keine völlig neuen Sicherheitskonzepte ein, wenden jedoch vertraute Disziplinen der Incident Response auf die besonderen Risiken autonomer oder teilautonomer Systeme mit weitreichenden Zugriffs- und Entscheidungsbefugnissen an.

Diesen Artikel teilen:TwitterLinkedIn