I team di sicurezza stanno esaminando sempre più attentamente come i record degli incidenti, i ticket di assistenza, i log e altri dati operativi possano essere utilizzati mentre i fornitori di intelligenza artificiale ampliano gli sforzi di addestramento dei modelli.
Per molte organizzazioni, i dati storici di sicurezza contengono molto più che indicatori tecnici. Gli archivi degli incidenti possono includere dettagli su sistemi interni, attività dei dipendenti, ambienti dei clienti, vulnerabilità, procedure di risposta e operazioni aziendali. Anche quando i record vengono condivisi con un fornitore per analisi, archiviazione o assistenza, le imprese possono avere una visibilità limitata sulla possibilità che tali informazioni contribuiscano al miglioramento dei prodotti o allo sviluppo dei modelli.
Le condizioni d'uso dei dati diventano una questione di sicurezza
La questione sta portando il linguaggio contrattuale relativo all'IA e le impostazioni dei servizi nell'ambito della governance della cybersecurity. Le organizzazioni stanno riesaminando gli accordi con i fornitori per determinare quali dati vengono raccolti, se vengono conservati, come sono protetti e se i clienti possono rinunciare ai programmi di addestramento o di utilizzo secondario.
I responsabili della sicurezza stanno inoltre valutando se informazioni apparentemente di routine, considerate isolatamente, possano diventare sensibili quando aggregate nel tempo. Un'ampia raccolta di avvisi e note sui casi, ad esempio, può rivelare schemi dell'infrastruttura, lacune difensive o la sequenza delle azioni intraprese durante un incidente.
Controlli e supervisione
Le misure comuni di riduzione del rischio includono la limitazione dei dati inviati a piattaforme esterne, la rimozione di identificatori non necessari, l'applicazione di limiti di conservazione e la restrizione dell'accesso ai materiali di indagine altamente sensibili. Le aziende possono inoltre separare i dati degli incidenti in produzione dai dati utilizzati per test o automazione.
- Rivedere le clausole relative all'IA e al trattamento dei dati nei contratti con i fornitori.
- Verificare se i contenuti dei clienti vengono utilizzati per addestrare, ottimizzare o valutare i modelli.
- Classificare i record degli incidenti in base alla sensibilità prima di condividerli esternamente.
- Stabilire processi di approvazione per nuovi strumenti di sicurezza abilitati dall'IA.
Il crescente utilizzo dell'IA nelle operazioni di sicurezza può aiutare i team a riassumere gli avvisi, indagare sugli eventi e automatizzare le attività di routine. Tuttavia, gli stessi dati che migliorano questi sistemi possono creare nuove esposizioni se la loro gestione non è chiaramente definita. Man mano che i fornitori aggiungono funzionalità di IA a servizi consolidati, è probabile che le imprese considerino la provenienza dei dati, il consenso e la conservazione come questioni centrali di sicurezza anziché dettagli amministrativi.