Sicherheitsfilter behindern Forscher bei der Untersuchung eines möglichen Linux-Kernel-Fehlers

Der Sicherheitsforscher Daniel Fox Franke sagt, dass automatisierte Sicherheitskontrollen eines geschlossenen KI-Dienstes ihn wiederholt daran hinderten, das System zur Untersuchung von Abstürzen im Zusammenhang mit dem Open-Source-Tool ripgrep zu verwenden. Letztlich griff er auf Modelle mit offenen Gewichten zurück, um die Analyse fortzusetzen.

Franke erklärte gegenüber The Register, dass die Arbeit begann, nachdem ripgrep während einer langen Codex-Sitzung wiederholt abgestürzt war. Er bat einen Agenten, den Fehler zu untersuchen, einschließlich der Frage, wie ripgrep und die musl-C-Bibliothek die Speicherzuweisung handhabten. OpenAIs Cybersicherheitsklassifikator markierte mehrere der daraus resultierenden Anfragen, insbesondere solche zur Reproduktion des Absturzes und zur Analyse des Heaps.

Nach Angaben von Franke grenzte er die Aufgabe ein und wies das System ausdrücklich an, sich auf die Analyse des Quellcodes zu konzentrieren, anstatt den Absturz zu reproduzieren oder Core-Dateien zu untersuchen. Der Klassifikator blockierte Antworten jedoch weiterhin. Franke sagte, das zugrunde liegende GPT-5.6-Sol-Modell habe offenbar helfen wollen, doch das separate Filtersystem unterbrach den Austausch.

Er sagte außerdem, dass er die Modelle von Anthropic nicht ausprobiert habe, weil er davon ausging, dass deren Einschränkungen noch ausgeprägter seien. Die Fehlermeldungen von OpenAI verwiesen ihn auf die Trusted-Access-Programme des Unternehmens für Sicherheitsforscher, doch er verfolgte eine Verifizierung nicht weiter. Er bezeichnete den Prozess als aufwendig und sagte, offene Modelle blieben eine praktikable Alternative.

Offene Modelle boten unterschiedlich viel Unterstützung

Franke verwendete während der Untersuchung K3 von Moonshot AI und GLM-5.2 von Z.ai. Er schrieb K3 zu, Hinweise darauf identifiziert zu haben, dass das Problem den Linux-Kernel betreffen könnte, bezeichnete einige der späteren Schlussfolgerungen des Modells jedoch als unzuverlässig und anfällig für unbelegte Annahmen. GLM-5.2 überprüfte diese Arbeit anschließend und half dabei, eine aus Frankes Sicht überzeugendere technische Argumentation zusammenzustellen.

Der Forscher betonte, dass die Untersuchung noch nicht abgeschlossen ist. Er glaubt, dass die Abstürze durch einen Fehler im Kernel verursacht werden, und hat einen möglichen Kernel-Bug identifiziert, konnte jedoch nicht nachweisen, dass der vermutete Fehler für die Ausfälle von ripgrep verantwortlich ist. Seinen Angaben zufolge gibt es derzeit keinen Patch, und das Problem scheint nicht ausnutzbar zu sein.

Der Vorfall verdeutlicht eine anhaltende Spannung bei KI-Sicherheitstools: Schutzmaßnahmen, die die Unterstützung von Angreifern begrenzen sollen, können auch legitimes Debugging und die Sicherheitsforschung behindern. Franke argumentierte, dass unzugängliche oder wenig kooperative Tools Forscher zu Systemen mit offenen Gewichten treiben könnten, bei denen sich das Modellverhalten direkter untersuchen und anpassen lässt.