Le National Cyber Security Centre (NCSC) du Royaume-Uni a mis à jour son recueil de problématiques de recherche avec un nouveau chapitre consacré à l’intelligence artificielle et à la cybersécurité. Cet ajout vise à orienter la recherche sur les opportunités, les risques et les questions techniques non résolues créés par des systèmes d’IA de plus en plus capables.
L’agence a indiqué que les nouveaux outils d’IA générative et agentique peuvent raisonner, planifier, utiliser des outils externes et accomplir des tâches avec une autonomie croissante. Si ces capacités pourraient aider les défenseurs à analyser les données de sécurité, détecter les menaces et automatiser les tâches courantes, elles pourraient également permettre aux attaquants d’agir plus rapidement et à plus grande échelle.
Trois axes prioritaires
Le chapitre, intitulé Problématiques de cybersécurité liées à l’IA, identifie sept domaines de recherche organisés autour de trois thèmes :
- utiliser l’IA pour améliorer la cyberdéfense ;
- sécuriser les systèmes d’IA et garantir leur fiabilité ; et
- appliquer des approches fondées sur les données afin de renforcer la résilience à grande échelle.
Le NCSC a indiqué que les pratiques de sécurité existantes, notamment la gestion des vulnérabilités, la réponse aux incidents et la gestion des risques, pourraient devoir être adaptées à des environnements dans lesquels les systèmes comme les adversaires sont dotés d’IA. Il a suggéré que certains processus pourraient nécessiter une refonte plus fondamentale pour que les organisations puissent tirer parti de l’automatisation tout en maîtrisant les risques associés.
La supervision humaine reste essentielle
Une question centrale qui traverse le programme de recherche concerne la relation entre les personnes et les systèmes d’IA. Le NCSC a indiqué que des travaux supplémentaires sont nécessaires pour déterminer dans quels cas le fonctionnement autonome offre des avantages significatifs, dans quels cas le jugement humain doit rester impliqué, et comment les organisations peuvent maintenir une supervision efficace sans ralentir les activités défensives au rythme des machines.
Cette mise à jour fait suite aux avertissements plus larges des agences de cybersécurité des Five Eyes, selon lesquels l’IA modifie le rythme et l’ampleur des cybermenaces. Elle s’inscrit également dans le cadre de l’initiative Cyber Shield du NCSC, qui expose une ambition à plus long terme consistant à utiliser l’IA pour améliorer les cyberdéfenses du Royaume-Uni.
L’agence sollicite les retours des milieux universitaires, de l’industrie et des administrations publiques sur les défis proposés, les questions de recherche supplémentaires et les projets susceptibles d’y répondre. Le NCSC a indiqué que ces contributions pourraient contribuer à façonner des approches de cybersécurité qui resteront efficaces, résilientes et dignes de confiance à mesure que l’IA sera plus largement déployée.
