Il National Cyber Security Centre (NCSC) del Regno Unito esorta le organizzazioni ad applicare misure di protezione stratificate quando implementano sistemi di intelligenza artificiale agentica in grado di prendere decisioni ed eseguire azioni con un intervento umano limitato.
In linee guida provvisorie, l’agenzia afferma che l’IA autonoma può migliorare la produttività automatizzando flussi di lavoro complessi, ma avverte che eventuali errori potrebbero indurre i sistemi ad agire al di fuori dell’ambito previsto, accedere a informazioni inappropriate o svolgere attività non autorizzate. Le raccomandazioni sono rivolte a progettisti e operatori che realizzano ambienti in cui gli agenti IA possono interagire con strumenti, dati e sistemi aziendali.
Rapportare l’autonomia al rischio
L’NCSC raccomanda di stabilire innanzitutto quanta autonomia sia realmente necessaria. Un agente che formula raccomandazioni o svolge attività a basso impatto, strettamente limitate, presenta un profilo di rischio diverso rispetto a uno che può modificare sistemi di produzione o prendere decisioni ad alta conseguenza senza approvazione. Con l’aumentare dell’autonomia e del potenziale impatto, le organizzazioni dovrebbero applicare controlli più rigorosi e definire gli esiti che non sono disposte ad accettare.
Le organizzazioni dovrebbero inoltre valutare le protezioni fornite dal modello sottostante, dal servizio di inferenza e dal framework dell’agente. Le misure di protezione integrate possono contribuire a prevenire comportamenti indesiderati, ma possono essere aggirate o risultare inadeguate in contesti a rischio più elevato. Le protezioni a livello di modello dovrebbero pertanto essere considerate una base di partenza, non una strategia di sicurezza completa.
Controlli operativi stratificati
Le linee guida evidenziano l’importanza della modellazione delle minacce prima dell’implementazione, inclusa la documentazione delle attività autorizzate dell’agente e di confini espliciti. Prompt progettati con cura, adeguati punti di approvazione umana e ulteriori salvaguardie tecniche, quali classificatori o verifiche deterministiche, possono contribuire a prevenire azioni non sicure.
Si raccomanda un sandbox robusto per limitare l’accesso dell’agente a reti, credenziali, file e altri sistemi. Le organizzazioni dovrebbero registrare e sottoporre ad audit le attività, monitorare gli agenti attraverso i processi esistenti delle operazioni di sicurezza e rendere le azioni attribuibili a uno specifico agente, utente o account di servizio. Queste misure possono supportare le attività di indagine e risposta quando il comportamento si discosta dalle aspettative.
L’NCSC consiglia inoltre di mantenere un meccanismo di emergenza per sospendere o disabilitare un agente. Le procedure di arresto dovrebbero essere testate e progettate affinché rimangano efficaci anche se il sistema presenta malfunzionamenti o agisce in modo imprevisto.
L’agenzia descrive le raccomandazioni come indicazioni provvisorie, mentre sviluppa linee guida più formali con partner del settore e della ricerca. Prevede che le pratiche efficaci cambieranno con l’aumentare delle evidenze sui sistemi di IA autonoma.
