I ricercatori di sicurezza hanno descritto una tecnica di attacco in cui un file di istruzioni dannoso collocato nella cartella Download di un utente può influenzare gli agenti di coding IA affinché eseguano comandi indesiderati o installino software non attendibile.
Il problema riguarda file quali AGENTS.md e CLAUDE.md, documenti di testo semplice utilizzati per fornire indicazioni specifiche per un progetto agli assistenti di coding. A seconda dell'agente, questi file possono indicargli come testare il software, selezionare strumenti, seguire convenzioni di codifica o svolgere altre attività. Se un agente viene avviato in una directory contenente un file di istruzioni ostile, potrebbe trattarne il contenuto come contesto attendibile.
I ricercatori di Forever Security hanno dichiarato di aver analizzato un incidente in cui un agente di coding ha tentato di installare un sospetto pacchetto npm denominato function-color. Hanno ricondotto il comportamento a un file AGENTS.md presente nella directory Download dell'utente interessato, utilizzata anche come cartella di lavoro dell'agente.
La cartella Download rappresenta un rischio
I ricercatori hanno ricreato lo scenario contro OpenAI Codex, utilizzando una prova di concetto innocua che apriva un'applicazione calcolatrice. Hanno riferito un tasso di successo di circa il 90%. In test separati che coinvolgevano Claude Code, un file di istruzioni dannoso è stato utilizzato per reindirizzare il traffico API attraverso un server controllato dall'attaccante, con la potenziale esposizione di un token OAuth e l'abilitazione di successive azioni sugli strumenti.
L'attacco non dipende dal fatto che il file di istruzioni sia eseguibile. Sfrutta invece la capacità prevista dell'agente di leggere indicazioni locali e agire tramite gli strumenti e le autorizzazioni disponibili.
I ricercatori hanno osservato che i browser salvano comunemente i download nella cartella Download per impostazione predefinita. Un sito web potrebbe essere in grado di attivare il download di un file, sebbene i browser forniscano in genere notifiche di download e alcuni richiedano l'approvazione dell'utente. Perché l'attacco abbia successo, la vittima dovrebbe quindi avviare un agente IA nella stessa cartella o altrimenti fare in modo che il file dannoso diventi parte del suo contesto operativo.
Precauzioni consigliate
- Avviare gli agenti di coding dalla directory radice del progetto specifico su cui si sta lavorando.
- Evitare di utilizzare percorsi generici, in particolare le directory Home e Download, come spazi di lavoro per gli agenti.
- Esaminare file AGENTS.md, CLAUDE.md e file correlati non familiari prima di consentire a un agente di utilizzarli.
- Mantenere abilitati, ove disponibili, i prompt di approvazione e le protezioni di sandboxing.
- Utilizzare ambienti isolati quando si valutano codice o file provenienti da fonti non attendibili.
I risultati evidenziano che anche la directory di lavoro di un agente IA fa parte del suo perimetro di sicurezza. Limitare tale contesto può ridurre la probabilità che file scaricati non correlati vengano interpretati come istruzioni operative.
