← Zurück zu den Neuigkeiten
The Register - Security13. Nov. 2026 · 2 Min. Lesezeit

OpenAI stellt KI-gestützte Tools für Penetrationstests und die Behebung von Schwachstellen vor

OpenAI hat unter seiner Daybreak-Plattform zwei Cybersicherheitsprodukte vorgestellt, die Organisationen mithilfe von KI-Agenten dabei unterstützen sollen, Softwareschwachstellen zu identifizieren, zu...

OpenAI hat unter seiner Daybreak-Plattform zwei Cybersicherheitsprodukte vorgestellt, die Organisationen mithilfe von KI-Agenten dabei unterstützen sollen, Softwareschwachstellen zu identifizieren, zu validieren und zu beheben.

Das Unternehmen kündigte Daybreak Red Team an, ein Tool mit Early-Access-Zugang zum Testen von Webanwendungen, sowie Daybreak Defense Factory, ein Produkt zur Unterstützung bei der Entdeckung von Schwachstellen und der Entwicklung von Patches. Die Einführung spiegelt das zunehmende Interesse von Anbietern wider, große Sprachmodelle für defensive Sicherheitsabläufe einzusetzen, darunter Code-Reviews, Penetrationstests und die Behebung von Schwachstellen.

Automatisierte Tests und Patch-Vorschläge

Daybreak Red Team nutzt OpenAI-Modelle, um Webanwendungen mit Zugriff auf den Quellcode und relevanten Anwendungskontext zu untersuchen. Laut OpenAI kann das Tool potenzielle Angriffswege analysieren, Ergebnisse von Scannern oder Bug-Bounty-Berichten bewerten und Teams dabei helfen zu überprüfen, ob gemeldete Probleme tatsächlich ausnutzbar sind. Es kann zudem eingesetzt werden, um zu bewerten, ob eine Korrektur eine identifizierte Schwachstelle behebt.

Daybreak Defense Factory soll Teile des Schwachstellenmanagements automatisieren. OpenAI zufolge können seine Agenten Codebasen scannen, potenzielle Sicherheitsprobleme identifizieren sowie vorgeschlagene Patches und Tests erstellen. Ingenieure sollen Änderungen überprüfen und genehmigen, bevor diese in Produktionsumgebungen ausgerollt werden.

Während der Produktankündigung sagte OpenAI-Präsident Greg Brockman, dass Organisationen ihre Sicherheitsprogramme anpassen müssen, um zunehmend leistungsfähigere KI-Systeme zu berücksichtigen. Er betonte zudem, dass etablierte Sicherheitspraktiken neben KI-gestützten Schutzmaßnahmen weiterhin wichtig bleiben.

Klage weckt Bedenken hinsichtlich fortgeschrittener KI-Risiken

Die Ankündigungen erfolgten, als mehrere gemeinnützige Organisationen beim Superior Court von San Francisco Klage gegen OpenAI, Anthropic, Google, Meta und SpaceX einreichten. Die Kläger, darunter Public Citizen und die Alliance for Secure AI, wollen verhindern, dass die Unternehmen KI-Systeme entwickeln oder einsetzen, die die Fähigkeiten ihrer derzeit führenden Modelle übertreffen.

In der Klageschrift werden gemeldete sicherheitsrelevante Vorfälle im Zusammenhang mit KI angeführt und argumentiert, dass leistungsfähigere Systeme zu Risiken wie Cyberangriffen und dem Missbrauch biologischen Wissens beitragen könnten. Diese Behauptungen sind Vorwürfe in einem laufenden Gerichtsverfahren und wurden bislang nicht von einem Gericht entschieden.

KI-Sicherheitstools können Verteidigern helfen, große Mengen an Befunden zu verarbeiten und die Behebung zu beschleunigen. Ihr Einsatz wirft jedoch auch Fragen zur Autorisierung von Tests, zur Genauigkeit von modellgenerierten Befunden, zum sicheren Umgang mit Quellcode und zur Notwendigkeit menschlicher Kontrolle auf.

Diesen Artikel teilen:TwitterLinkedIn