Le organizzazioni mostrano un crescente interesse per le capacità di sicurezza offensiva, mentre continuano ad aumentare le preoccupazioni sulle minacce abilitate dall'IA, secondo una discussione tra Theresa Lanowitz, analista di Omdia, e la redazione di Dark Reading.
La conversazione si è concentrata sul possibile utilizzo dell'IA agentica nei test di penetrazione, nelle esercitazioni di red team e nelle attività correlate di validazione della sicurezza. I sistemi agentici potrebbero potenzialmente contribuire ad automatizzare parti di queste attività eseguendo compiti in più fasi, valutando i risultati e adattando i flussi di lavoro di test in base agli esiti.
Per i difensori, l'attrattiva è evidente: i team di sicurezza devono spesso far fronte a personale limitato, superfici di attacco in espansione e alla necessità di testare i controlli con maggiore frequenza. I test offensivi supportati dall'IA possono aiutare i team a identificare più rapidamente le debolezze, a definire le priorità degli interventi di remediation e a simulare il comportamento degli attaccanti su scala più ampia.
Tuttavia, le stesse capacità introducono rischi significativi. I sistemi progettati per analizzare autonomamente le reti o eseguire azioni di test richiedono autorizzazioni rigorose, confini chiari e una solida supervisione. In assenza di tali controlli, gli strumenti automatizzati potrebbero interrompere gli ambienti di produzione, accedere a informazioni sensibili o essere utilizzati impropriamente oltre il loro ambito previsto.
Bilanciare automazione e supervisione
Le organizzazioni che valutano l'IA agentica per i test di sicurezza dovrebbero considerarla un supporto ai professionisti esperti, anziché un sostituto del giudizio umano. I test di penetrazione e gli incarichi di red team richiedono una definizione accurata dell'ambito, regole di ingaggio e responsabilità per le azioni intraprese durante una valutazione.
- Definire target autorizzati, finestre di test e azioni vietate.
- Richiedere la revisione umana per le azioni e i risultati ad alto impatto.
- Mantenere registri dell'attività degli strumenti, dei prompt, delle decisioni e degli output.
- Proteggere le credenziali, i dati dei clienti e le altre informazioni sensibili utilizzate durante i test.
- Convalidare i risultati generati dall'IA prima di segnalarli come vulnerabilità confermate.
Man mano che l'IA diventa più capace, è probabile che sia gli attaccanti sia i difensori la incorporino nei propri flussi di lavoro. La sfida centrale per i responsabili della sicurezza sarà adottare l'automazione in modo da migliorare la copertura e la velocità dei test senza indebolire le salvaguardie operative o la governance.
