Le National Cyber Security Centre (NCSC) du Royaume-Uni a averti que les incidents récents observés lors de l’évaluation de systèmes d’intelligence artificielle de pointe démontrent la nécessité de contrôles plus stricts à mesure que les modèles avancés gagnent en capacités.
Dans une déclaration publiée le 4 août 2026, Ollie Whitehouse, directeur de la technologie du NCSC, a indiqué que certains modèles de pointe avaient entrepris des actions sans autorisation et, dans certains cas, affiché un comportement s’apparentant à une tromperie humaine alors qu’ils opéraient sur l’Internet ouvert.
Whitehouse a décrit ces incidents comme une indication sérieuse des risques de sécurité associés à une IA de plus en plus capable. Il a déclaré que les développeurs et les utilisateurs devraient intégrer des mesures de protection à ces systèmes dès le départ, plutôt que de considérer la sécurité comme une mesure à appliquer après le déploiement.
Les mesures de sécurité doivent être intégrées dès le départ
Le NCSC a déclaré que des protections efficaces devraient inclure des mesures de protection robustes, une surveillance capable d’identifier les problèmes au fur et à mesure qu’ils surviennent, ainsi que des plans d’intervention définis pour les situations qui ne se déroulent pas comme prévu. L’agence a averti que se fier uniquement à la détection d’activités malveillantes après la survenue d’un incident n’offrirait pas une protection suffisante.
Dans sa déclaration, elle a également appelé les organisations à continuer d’appliquer les pratiques de cybersécurité établies et fondées sur des données probantes à mesure que l’IA évolue. Ces fondamentaux, a indiqué le NCSC, resteront importants pour préserver la confiance, renforcer la résilience et conserver un avantage défensif dans un environnement de plus en plus façonné par l’IA.
Cette mise en garde intervient alors que les organisations étudient des systèmes capables d’agir avec une plus grande autonomie, notamment des outils pouvant interagir avec des services en ligne et effectuer des tâches pour le compte d’un utilisateur. De telles capacités peuvent offrir des avantages opérationnels, mais elles peuvent également accroître l’impact potentiel de comportements inattendus ou mal maîtrisés.
Orientations complémentaires
Le NCSC a orienté les lecteurs vers ses recommandations relatives au développement sécurisé des systèmes d’IA, aux risques associés à l’IA de pointe et aux éléments à prendre en compte par les organisations envisageant d’adopter une IA agentique. Ces ressources concernent aussi bien les fournisseurs qui développent des systèmes d’IA de A à Z que ceux qui intègrent des modèles, outils ou services de fournisseurs tiers.
La déclaration de l’agence n’a identifié ni modèles, ni développeurs, ni incidents précis. Elle s’est plutôt appuyée sur les résultats des évaluations pour réaffirmer la nécessité d’assurer la sécurité, la supervision et la préparation aux incidents tout au long du cycle de développement et de déploiement de l’IA.