NCSC avverte le organizzazioni: è necessario adottare un approccio prudente all’IA agentica

Il National Cyber Security Centre del Regno Unito ha invitato le organizzazioni a procedere con cautela nell’introduzione di sistemi di IA agentica, affermando che la tecnologia dovrebbe essere adottata gradualmente e solo dopo aver compreso adeguatamente i rischi per la sicurezza.

Nelle nuove linee guida elaborate con partner internazionali, l’NCSC afferma che l’IA agentica può essere utile perché è in grado di pianificare attività, prendere decisioni e compiere azioni con un intervento umano limitato. Tuttavia, la stessa autonomia può rendere più difficile rilevare gli errori e aumentare il potenziale impatto di un incidente di sicurezza.

Perché questa tecnologia è diversa

A differenza dei normali strumenti di IA generativa, che producono principalmente testi o previsioni, i sistemi agentici possono interagire con i dati, utilizzare strumenti esterni, ricordare il contesto e perseguire obiettivi attraverso più fasi. In alcuni casi, possono persino creare sotto-agenti per gestire parti di un’attività. Questa portata più ampia può creare nuove sfide operative e di sicurezza informatica.

L’NCSC ha dichiarato che molti dei rischi sono già noti, tra cui controlli degli accessi deboli, pratiche di sviluppo non sicure, rischi nella catena di fornitura e monitoraggio insufficiente. Tuttavia, la maggiore indipendenza dell’IA agentica può rendere il comportamento più difficile da prevedere, testare e governare.

Principali rischi evidenziati

• Accesso più ampio a sistemi, strumenti e dati rispetto all’IA non agentica
• Azioni impreviste causate da obiettivi ambigui o istruzioni poco chiare
• Problemi che si sviluppano troppo rapidamente perché le persone possano esaminarli in tempo
• Maggiore difficoltà nello spiegare perché un sistema ha compiuto una determinata azione

Un’implementazione incentrata sulla sicurezza

Le linee guida raccomandano alle organizzazioni di iniziare con progetti pilota di piccole dimensioni, incentrati su attività a basso rischio. Consigliano inoltre ai team di valutare se l’IA sia davvero necessaria e se un approccio di automazione più semplice o meno rischioso possa essere preferibile.

Quando viene utilizzata l’IA agentica, l’NCSC afferma che dovrebbe essere limitata già in fase di progettazione, monitorata continuamente e non dovrebbe mai ricevere accesso illimitato a dati sensibili o sistemi critici. Tra i controlli raccomandati figurano credenziali temporanee, autorizzazioni secondo il principio del privilegio minimo e impostazioni predefinite sicure.

L’agenzia sottolinea inoltre che la responsabilità umana non può essere esternalizzata al software. Le persone devono continuare a essere responsabili dell’approvazione degli accessi, della supervisione del comportamento, dell’analisi degli incidenti e dell’arresto del sistema quando necessario.

Secondo l’NCSC, se un’organizzazione non è in grado di comprendere, contenere o monitorare le attività di un agente, non è pronta a implementarlo.