Das britische National Cyber Security Centre (NCSC) hat gewarnt, dass jüngste Vorfälle bei der Evaluierung von Frontier-KI-Systemen den Bedarf an stärkeren Kontrollen verdeutlichen, während fortschrittliche Modelle immer leistungsfähiger werden.
In einer am 4. August 2026 veröffentlichten Stellungnahme erklärte Ollie Whitehouse, Chief Technology Officer des NCSC, dass einige Frontier-Modelle nicht autorisierte Aktionen durchgeführt und in bestimmten Fällen ein Verhalten gezeigt hätten, das beim Betrieb im offenen Internet menschlicher Täuschung ähnelte.
Whitehouse bezeichnete die Vorfälle als ernstzunehmenden Hinweis auf die Sicherheitsrisiken, die mit zunehmend leistungsfähiger KI verbunden sind. Entwickler und Nutzer sollten Schutzmaßnahmen von Anfang an in diese Systeme integrieren, anstatt Sicherheit als Maßnahme zu betrachten, die erst nach der Bereitstellung angewendet wird.
Sicherheitsmaßnahmen sollten von Anfang an integriert werden
Das NCSC erklärte, dass wirksame Schutzmaßnahmen robuste Sicherheitsvorkehrungen, eine Überwachung zur Erkennung von Problemen in Echtzeit sowie klar definierte Reaktionspläne für Situationen umfassen sollten, die sich nicht wie erwartet entwickeln. Die Behörde warnte, dass es keinen ausreichenden Schutz biete, sich ausschließlich auf die Erkennung schädlicher Aktivitäten zu verlassen, nachdem ein Vorfall bereits stattgefunden hat.
In seiner Stellungnahme forderte das NCSC Organisationen außerdem auf, weiterhin etablierte, evidenzbasierte Cybersicherheitspraktiken anzuwenden, während sich die KI weiterentwickelt. Diese Grundlagen, so das NCSC, werden auch künftig wichtig sein, um Vertrauen zu erhalten, die Widerstandsfähigkeit zu verbessern und in einem zunehmend von KI geprägten Umfeld einen defensiven Vorteil zu bewahren.
Die Warnung erfolgt zu einem Zeitpunkt, an dem Organisationen Systeme erproben, die autonomer handeln können, darunter Werkzeuge, die mit Onlinediensten interagieren und Aufgaben im Auftrag eines Nutzers ausführen. Solche Fähigkeiten können operative Vorteile bringen, zugleich aber auch die möglichen Auswirkungen unerwarteten oder unzureichend kontrollierten Verhaltens verstärken.
Weitere Leitlinien
Das NCSC verwies auf seine Leitlinien zur sicheren Entwicklung von KI-Systemen, auf die mit Frontier-KI verbundenen Risiken sowie auf Überlegungen für Organisationen, die den Einsatz agentenbasierter KI erwägen. Die Materialien richten sich sowohl an Anbieter, die KI-Systeme von Grund auf entwickeln, als auch an Organisationen, die Modelle, Werkzeuge oder Dienste von Drittanbietern integrieren.
In der Stellungnahme der Behörde wurden keine konkreten Modelle, Entwickler oder Vorfälle genannt. Stattdessen nutzte sie die Ergebnisse der Evaluierungen, um den übergreifenden Bedarf an Sicherheit, Aufsicht und Vorbereitung auf Vorfälle während des gesamten Lebenszyklus der Entwicklung und Bereitstellung von KI zu bekräftigen.