La ricerca evidenzia i rischi della governance delle identità negli agenti IA

Una nuova ricerca descrive una tecnica denominata “GhostJacking”, attraverso la quale gli aggressori potrebbero sfruttare gli avvisi di sicurezza e gli eventi bloccati per influenzare il comportamento degli agenti IA. I risultati evidenziano vulnerabilità nel modo in cui vengono gestite le identità, le autorizzazioni e i segnali di sicurezza degli agenti.

Gli agenti IA operano sempre più spesso con accesso ad applicazioni, dati e flussi di lavoro automatizzati. Di conseguenza, i sistemi che monitorano le loro attività possono diventare una componente importante del perimetro di sicurezza. Secondo la ricerca, un aggressore potrebbe tentare di utilizzare gli avvisi o le azioni negate come input in grado di modificare le decisioni di un agente, creando potenzialmente un’opportunità per manipolarne o assumerne il controllo operativo.

Perché il problema è importante

I controlli tradizionali delle identità sono generalmente progettati per utenti umani e account di servizio longevi. Gli agenti IA, al contrario, possono prendere decisioni dinamicamente, richiamare più strumenti e reagire agli eventi in tempo reale. Se le loro identità e autorizzazioni non vengono gestite rigorosamente, un agente potrebbe ottenere più accessi del necessario o reagire in modo imprevedibile a segnali ostili.

La ricerca sottolinea che le attività bloccate non devono essere trattate come semplice rumore di fondo innocuo. Gli eventi di sicurezza possono essere elaborati anche dall’agente stesso, dai sistemi di orchestrazione connessi o da altri componenti automatizzati. Senza una chiara separazione tra istruzioni attendibili e dati sugli eventi non attendibili, gli aggressori potrebbero riuscire a influenzare il contesto o le azioni di un agente.

Considerazioni sulla sicurezza

• Assegnare a ogni agente un’identità distinta e con ambito rigorosamente limitato, restringendo l’accesso ai soli strumenti e dati di cui necessita.
• Separare la telemetria di sicurezza dalle istruzioni che gli agenti sono autorizzati a seguire.
• Verificare come vengono convalidati gli avvisi, le richieste negate e gli altri input esterni prima che raggiungano un agente.
• Monitorare l’attività degli agenti per rilevare un uso imprevisto delle autorizzazioni, azioni bloccate ripetute o cambiamenti improvvisi nel comportamento.
• Mantenere l’approvazione umana per le operazioni sensibili, in particolare quelle che riguardano identità, accessi o modifiche irreversibili.

I risultati si aggiungono alle crescenti preoccupazioni secondo cui la protezione degli agenti IA richiede più delle sole misure di sicurezza dei modelli. Le organizzazioni devono applicare anche la governance delle identità, controlli basati sul principio del privilegio minimo e un monitoraggio continuo agli agenti e ai sistemi che li dirigono.