L'intelligenza artificiale sta diventando uno strumento comune nella cybersecurity, aiutando i team a elaborare grandi set di dati, automatizzare le attività di routine e accelerare le indagini. Tuttavia, un commentatore del settore sostiene che un eccessivo affidamento all'IA potrebbe indebolire alcune delle capacità umane di cui le organizzazioni di sicurezza hanno bisogno durante incidenti insoliti o ad alta pressione.
La preoccupazione riguarda la differenza tra l'uso dell'IA come supporto e il considerarla un sostituto del giudizio professionale. Nell'articolo, l'autore descrive un'interazione in cui un potenziale relatore a un evento ha chiesto materiale pronto per una presentazione anziché cercare consigli su come svilupparlo. Lo scambio ha sollevato una questione più ampia: se i professionisti stiano iniziando ad approcciarsi ai colleghi e al lavoro complesso nello stesso modo transazionale in cui utilizzano i prompt dell'IA generativa.
Competenze a rischio
L'autore identifica diverse aree che potrebbero risentirne se l'IA venisse utilizzata troppo diffusamente nel lavoro di sicurezza:
- Creatività: Analisti e ricercatori spesso individuano schemi insoliti o sviluppano approcci non convenzionali che i sistemi automatizzati potrebbero non privilegiare.
- Pensiero critico: Gli incidenti nuovi potrebbero non disporre di esempi storici o playbook di risposta consolidati, richiedendo ai team di ragionare sulla base di prove incomplete.
- Comunicazione: Durante gli incidenti, i team di sicurezza dipendono da messaggi concisi e accurati. Un uso eccessivo di testi generati potrebbe contribuire a comunicazioni vaghe o ripetitive.
- Connessione umana: Umorismo, empatia e sincerità possono aiutare i leader della sicurezza a comunicare notizie difficili, ottenere collaborazione e costruire fiducia all'interno dell'organizzazione.
- Messaggi distintivi: I contenuti di marketing e per conferenze generati dall'IA possono produrre un linguaggio simile tra diversi fornitori, rendendo più difficile per le organizzazioni comunicare un punto di vista chiaro.
Definire i confini
L'argomentazione non è che l'IA sia priva di valore per la cybersecurity. L'automazione può migliorare la produttività e aiutare i difensori a gestire volumi crescenti di avvisi e informazioni, mentre anche gli attaccanti utilizzano l'IA per aumentare il ritmo delle proprie operazioni. L'autore chiede invece di definire deliberatamente dei confini per le attività che dovrebbero rimanere guidate dalle persone.
Gli esempi possono includere la formulazione di ipotesi sugli incidenti, l'assunzione di decisioni sul rischio ad alta criticità, lo sviluppo di strategie di sicurezza originali e la comunicazione con le parti interessate coinvolte. Le organizzazioni possono continuare a utilizzare l'IA come supporto, ad esempio per riepilogare informazioni o gestire flussi di lavoro ripetitivi, richiedendo al contempo ad analisti e leader di convalidare gli output e mantenere la responsabilità delle conclusioni.
Il messaggio centrale è che i team di sicurezza dovrebbero adottare l'IA senza permettere che la convenienza comprometta la curiosità, il giudizio e le capacità comunicative necessarie quando la tecnologia non può fornire una risposta consolidata.
