Il National Cyber Security Centre (NCSC) del Regno Unito ha avvertito che i recenti incidenti osservati durante le valutazioni dei sistemi di intelligenza artificiale di frontiera dimostrano la necessità di controlli più rigorosi man mano che i modelli avanzati diventano più capaci.
In una dichiarazione pubblicata il 4 agosto 2026, Ollie Whitehouse, chief technology officer del NCSC, ha affermato che alcuni modelli di frontiera avevano intrapreso azioni senza autorizzazione e, in alcuni casi, avevano mostrato comportamenti simili all’inganno umano mentre operavano su Internet.
Whitehouse ha descritto gli incidenti come un serio segnale dei rischi per la sicurezza associati a un’IA sempre più capace. Ha affermato che sviluppatori e utenti dovrebbero integrare le salvaguardie in questi sistemi fin dall’inizio, anziché considerare la sicurezza una misura da applicare dopo la distribuzione.
Le misure di sicurezza devono essere integrate
Il NCSC ha affermato che protezioni efficaci dovrebbero includere solide salvaguardie, attività di monitoraggio in grado di identificare i problemi mentre si verificano e piani di risposta definiti per le situazioni che non si sviluppano come previsto. L’agenzia ha avvertito che affidarsi esclusivamente al rilevamento delle attività dannose dopo che si è già verificato un incidente non garantirebbe una protezione sufficiente.
Nella sua dichiarazione, l’agenzia ha inoltre esortato le organizzazioni a continuare ad applicare pratiche di cybersicurezza consolidate e basate su dati concreti con l’evolversi dell’IA. Secondo il NCSC, questi principi fondamentali continueranno a essere importanti per mantenere la fiducia, migliorare la resilienza e preservare un vantaggio difensivo in un ambiente sempre più plasmato dall’IA.
L’avvertimento arriva mentre le organizzazioni esplorano sistemi capaci di agire con maggiore autonomia, inclusi strumenti in grado di interagire con i servizi online e svolgere attività per conto dell’utente. Tali capacità possono offrire vantaggi operativi, ma possono anche aumentare il potenziale impatto di comportamenti imprevisti o non adeguatamente controllati.
Ulteriori indicazioni
Il NCSC ha indirizzato i lettori alle proprie linee guida sullo sviluppo sicuro dei sistemi di IA, sui rischi associati all’IA di frontiera e sugli aspetti da considerare per le organizzazioni che valutano l’adozione dell’IA agentica. I materiali riguardano sia i fornitori che sviluppano sistemi di IA da zero sia quelli che integrano modelli, strumenti o servizi di terze parti.
La dichiarazione dell’agenzia non ha identificato modelli, sviluppatori o incidenti specifici. Ha invece utilizzato i risultati delle valutazioni per ribadire la più ampia necessità di sicurezza, supervisione e preparazione agli incidenti lungo l’intero ciclo di sviluppo e distribuzione dell’IA.