Les équipes de sécurité examinent de plus en plus la manière dont les enregistrements d’incidents, les tickets d’assistance, les journaux et d’autres données opérationnelles peuvent être utilisés alors que les fournisseurs d’intelligence artificielle intensifient leurs efforts d’entraînement de modèles.
Pour de nombreuses organisations, les données historiques de sécurité contiennent bien plus que des indicateurs techniques. Les archives d’incidents peuvent inclure des détails sur les systèmes internes, l’activité des employés, les environnements clients, les vulnérabilités, les procédures de réponse et les opérations commerciales. Même lorsque des enregistrements sont partagés avec un fournisseur à des fins d’analyse, de stockage ou d’assistance, les entreprises peuvent avoir une visibilité limitée sur la possibilité que ces informations contribuent à l’amélioration des produits ou au développement de modèles.
Les conditions d’utilisation des données deviennent une préoccupation de sécurité
Cette question étend le périmètre de la gouvernance de la cybersécurité aux clauses contractuelles et aux paramètres de service liés à l’IA. Les organisations examinent les accords avec les fournisseurs afin de déterminer quelles données sont collectées, si elles sont conservées, comment elles sont protégées et si les clients peuvent refuser les programmes d’entraînement ou d’utilisation secondaire.
Les responsables de la sécurité se demandent également si des informations apparemment ordinaires, prises isolément, peuvent devenir sensibles lorsqu’elles sont agrégées au fil du temps. Une vaste collection d’alertes et de notes de dossier peut, par exemple, révéler des schémas d’infrastructure, des lacunes défensives ou la séquence des mesures prises pendant un incident.
Contrôles et supervision
Les mesures courantes de réduction des risques comprennent la limitation des données envoyées vers des plateformes externes, la suppression des identifiants inutiles, l’application de limites de conservation et la restriction de l’accès aux éléments d’enquête hautement sensibles. Les entreprises peuvent également séparer les données d’incidents de production des données utilisées pour les tests ou l’automatisation.
- Examiner les clauses relatives à l’IA et au traitement des données dans les contrats fournisseurs.
- Confirmer si le contenu des clients est utilisé pour entraîner, ajuster ou évaluer des modèles.
- Classer les enregistrements d’incidents selon leur niveau de sensibilité avant de les partager en externe.
- Mettre en place des processus d’approbation pour les nouveaux outils de sécurité intégrant l’IA.
L’utilisation croissante de l’IA dans les opérations de sécurité peut aider les équipes à résumer les alertes, à enquêter sur les événements et à automatiser les tâches routinières. Toutefois, les mêmes données qui améliorent ces systèmes peuvent créer de nouvelles expositions si leur traitement n’est pas clairement défini. À mesure que les fournisseurs ajoutent des capacités d’IA à des services établis, les entreprises sont susceptibles de considérer la provenance des données, le consentement et la conservation comme des questions de sécurité centrales plutôt que comme de simples détails administratifs.