Il National Cyber Security Centre (NCSC) del Regno Unito ha aggiornato il proprio libro dei problemi di ricerca con un nuovo capitolo dedicato all’intelligenza artificiale e alla cybersicurezza. L’aggiunta mira a orientare la ricerca sulle opportunità, i rischi e le questioni tecniche irrisolte create da sistemi di IA sempre più capaci.
L’agenzia ha dichiarato che i più recenti strumenti di IA generativa e agentica possono ragionare, pianificare, utilizzare strumenti esterni ed eseguire attività con un’autonomia crescente. Sebbene tali capacità possano aiutare i difensori ad analizzare i dati di sicurezza, rilevare minacce e automatizzare il lavoro di routine, potrebbero anche consentire agli attaccanti di operare più rapidamente e su scala maggiore.
Tre aree di interesse
Il capitolo, intitolato Problemi dell’IA nella cybersicurezza, individua sette aree di ricerca organizzate attorno a tre temi:
- utilizzare l’IA per migliorare la difesa informatica;
- proteggere e garantire l’affidabilità dei sistemi di IA; e
- applicare approcci basati sui dati per rafforzare la resilienza su larga scala.
L’NCSC ha affermato che le pratiche di sicurezza esistenti, incluse la gestione delle vulnerabilità, la risposta agli incidenti e la gestione del rischio, potrebbero dover essere adattate ad ambienti in cui sia i sistemi sia gli avversari sono abilitati dall’IA. Ha suggerito che alcuni processi potrebbero richiedere una riprogettazione più radicale, affinché le organizzazioni possano beneficiare dell’automazione controllandone al contempo i rischi associati.
La supervisione umana resta centrale
Una questione fondamentale che attraversa l’agenda di ricerca è il rapporto tra le persone e i sistemi di IA. L’NCSC ha dichiarato che sono necessari ulteriori studi per stabilire dove il funzionamento autonomo offra vantaggi significativi, dove il giudizio umano debba continuare a essere coinvolto e come le organizzazioni possano mantenere una supervisione efficace senza rallentare le attività difensive alla velocità delle macchine.
L’aggiornamento segue i più ampi avvertimenti delle agenzie di cybersicurezza dei Five Eyes, secondo cui l’IA sta cambiando il ritmo e la portata delle minacce informatiche. È inoltre in linea con l’iniziativa Cyber Shield dell’NCSC, che delinea un’ambizione di lungo periodo: utilizzare l’IA per migliorare le difese informatiche del Regno Unito.
L’agenzia sta cercando riscontri dal mondo accademico, dall’industria e dalle istituzioni pubbliche sulle sfide proposte, su ulteriori questioni di ricerca e su progetti che potrebbero affrontarle. L’NCSC ha dichiarato che i contributi potrebbero contribuire a definire approcci alla cybersicurezza che rimangano efficaci, resilienti e affidabili man mano che l’IA viene impiegata più diffusamente.
