I filtri di sicurezza ostacolano il ricercatore che indaga su un possibile bug del kernel Linux

Il ricercatore di sicurezza Daniel Fox Franke afferma che i controlli di sicurezza automatizzati di un servizio di IA chiuso gli hanno impedito ripetutamente di usare il sistema per indagare sugli arresti anomali che coinvolgevano l’utility open source ripgrep. Alla fine si è rivolto a modelli a pesi aperti per proseguire l’analisi.

Franke ha dichiarato a The Register che il lavoro è iniziato dopo che ripgrep si è arrestato ripetutamente durante una lunga sessione con Codex. Ha chiesto a un agente di esaminare il problema, compreso il modo in cui ripgrep e la libreria C musl gestivano l’allocazione della memoria. Il classificatore di cybersicurezza di OpenAI ha segnalato diverse richieste risultanti, in particolare quelle riguardanti la riproduzione dell’arresto anomalo e l’analisi dell’heap.

Secondo Franke, ha circoscritto l’attività e ha istruito esplicitamente il sistema a concentrarsi sull’analisi del codice sorgente anziché sulla riproduzione dell’arresto anomalo o sull’ispezione dei file core. Il classificatore ha tuttavia continuato a bloccare le risposte. Franke ha affermato che il modello GPT-5.6 Sol sottostante sembrava disposto ad assistere, ma che il sistema di filtraggio separato interrompeva lo scambio.

Ha inoltre dichiarato di non aver provato i modelli di Anthropic perché si aspettava che le loro restrizioni fossero più severe. I messaggi di errore di OpenAI lo invitavano a rivolgersi ai programmi Trusted Access per i ricercatori di sicurezza, ma non ha proseguito con la verifica. Ha descritto il processo come oneroso e ha affermato che i modelli aperti restavano un’alternativa praticabile.

I modelli aperti hanno fornito livelli di assistenza diversi

Franke ha utilizzato Kimi K3 di Moonshot AI e GLM-5.2 di Z.ai durante l’indagine. Ha attribuito a K3 l’identificazione di prove secondo cui il problema potrebbe riguardare il kernel Linux, descrivendo però parte del suo ragionamento successivo come inaffidabile e incline a conclusioni non supportate. In seguito GLM-5.2 ha riesaminato quel lavoro e ha contribuito a costruire quello che Franke considera un caso tecnico più solido.

Il ricercatore ha sottolineato che l’indagine è incompleta. Ritiene che gli arresti anomali siano causati da un difetto del kernel e ha individuato un possibile bug del kernel, ma non ha stabilito che il difetto sospetto sia responsabile dei problemi di ripgrep. Ha affermato che al momento non esiste alcuna patch e che il problema non sembra sfruttabile.

L’episodio evidenzia una tensione persistente negli strumenti di sicurezza basati sull’IA: le misure di protezione concepite per limitare l’assistenza agli aggressori possono anche interferire con il debugging legittimo e con la ricerca sulle vulnerabilità. Franke ha sostenuto che strumenti inaccessibili o poco collaborativi rischiano di spingere i ricercatori verso sistemi a pesi aperti, nei quali il comportamento del modello può essere esaminato e modificato più direttamente.