L’intelligence artificielle devient un outil courant en cybersécurité, aidant les équipes à traiter de grands ensembles de données, à automatiser les tâches courantes et à accélérer les enquêtes. Mais un commentateur du secteur estime qu’une dépendance excessive à l’IA pourrait affaiblir certaines des capacités humaines dont les organisations de sécurité ont besoin lors d’incidents inhabituels ou à forte pression.
La préoccupation porte sur la différence entre utiliser l’IA comme une aide et la considérer comme un substitut au jugement professionnel. Dans l’article, l’auteur décrit une interaction au cours de laquelle un intervenant potentiel pour un événement a demandé du matériel de présentation prêt à l’emploi plutôt que des conseils sur la manière de le développer. Cet échange a soulevé une question plus large : les professionnels commencent-ils à aborder leurs collègues et les travaux complexes de la même manière transactionnelle qu’ils utilisent les requêtes adressées à l’IA générative ?
Compétences menacées
L’auteur identifie plusieurs domaines susceptibles de souffrir si l’IA est utilisée de manière trop étendue dans les activités de sécurité :
- Créativité : Les analystes et les chercheurs repèrent souvent des schémas inhabituels ou élaborent des approches non conventionnelles que les systèmes automatisés ne privilégient pas nécessairement.
- Esprit critique : Les incidents inédits peuvent ne pas disposer d’exemples historiques ni de procédures de réponse établies, obligeant les équipes à raisonner à partir d’éléments incomplets.
- Communication : Les équipes de sécurité dépendent de messages concis et exacts lors des incidents. Un usage excessif de textes générés pourrait contribuer à des communications vagues ou répétitives.
- Relations humaines : L’humour, l’empathie et la sincérité peuvent aider les responsables de la sécurité à transmettre des informations difficiles, à obtenir la coopération et à instaurer la confiance au sein de l’organisation.
- Messages distinctifs : Les contenus marketing et de conférence générés par l’IA peuvent produire un langage similaire chez différents fournisseurs, rendant plus difficile pour les organisations de communiquer un point de vue clair.
Définir des limites
L’argument n’est pas que l’IA n’a aucune valeur en cybersécurité. L’automatisation peut améliorer la productivité et aider les défenseurs à gérer des volumes croissants d’alertes et d’informations, tandis que les attaquants utilisent également l’IA pour accélérer leurs opérations. L’auteur appelle plutôt à fixer délibérément des limites autour des tâches qui devraient rester dirigées par des humains.
Ces tâches peuvent notamment inclure la formulation d’hypothèses sur les incidents, la prise de décisions de risque à forts enjeux, l’élaboration de stratégies de sécurité originales et la communication avec les parties prenantes affectées. Les organisations peuvent toujours utiliser l’IA comme soutien, par exemple pour résumer des informations ou gérer des flux de travail répétitifs, tout en exigeant des analystes et des responsables qu’ils valident les résultats et conservent la responsabilité des conclusions.
Le message central est que les équipes de sécurité devraient adopter l’IA sans laisser la commodité éroder la curiosité, le jugement et les compétences de communication nécessaires lorsque la technologie ne peut pas fournir de réponse établie.
