Les modèles d’IA chinois réduisent l’écart de performances et soulèvent de nouvelles questions pour les équipes de sécurité

Deux nouveaux grands modèles de langage développés par des entreprises chinoises attirent l’attention grâce à leurs performances élevées face aux systèmes généralistes et de pointe américains largement utilisés. Ces lancements constituent un nouveau signe que la course mondiale à l’IA s’accélère, avec des modèles toujours plus performants proposés par un éventail croissant de fournisseurs.

Pour les équipes de cybersécurité, ces progrès présentent à la fois des avantages et des risques. D’un côté, une IA plus avancée peut améliorer la revue de code, l’analyse des menaces, le tri des alertes et la réponse aux incidents. De l’autre, ces mêmes capacités peuvent être utilisées pour aider les attaquants à rédiger des messages d’hameçonnage convaincants, automatiser la reconnaissance, perfectionner des logiciels malveillants ou déployer des campagnes d’ingénierie sociale à grande échelle.

Les chercheurs en sécurité alertent depuis longtemps sur le fait que la valeur de l’IA générative ne dépend pas uniquement de ses concepteurs, mais aussi de la manière dont elle est utilisée. À mesure que les modèles deviennent plus fluides, moins coûteux à exploiter et plus faciles d’accès, le seuil d’entrée nécessaire à leur utilisation malveillante pourrait continuer à baisser. Cela ne signifie pas qu’une hausse directe des attaques dans le monde réel est garantie, mais cela laisse penser que les opérations assistées par l’IA deviendront probablement plus courantes au fil du temps.

Ce que les défenseurs doivent surveiller

• Génération de contenu accélérée : Les attaquants peuvent rapidement produire des leurres soignés, de faux messages d’assistance et des contenus d’hameçonnage multilingues.
• Assistance améliorée au développement : Des acteurs moins compétents peuvent utiliser les grands modèles de langage pour modifier des scripts, créer des outils simples ou résoudre des problèmes liés à leurs charges malveillantes.
• Usurpation plus convaincante : Une meilleure qualité linguistique peut rendre les e-mails frauduleux, les messages de discussion et les scripts vocaux plus difficiles à repérer.
• Automatisation à grande échelle : L’IA peut aider les adversaires à tester différentes variantes d’une attaque et à s’adapter plus rapidement aux défenses.

Dans le même temps, les défenseurs ne restent pas inactifs. De nombreuses organisations utilisent déjà l’IA pour résumer les journaux, hiérarchiser les alertes et soutenir la recherche proactive de menaces. Le principal enjeu pourrait être la rapidité : lorsque les deux camps ont accès à des modèles performants, les équipes de sécurité devront peut-être investir davantage dans la détection, la vérification et la résilience des processus, plutôt que de s’appuyer uniquement sur des revues manuelles.

Pour l’instant, l’arrivée de grands modèles de langage chinois plus compétitifs doit surtout être considérée comme une nouvelle étape dans un marché en évolution rapide. Leur capacité à creuser l’écart entre attaquants et défenseurs dépendra moins du nom des modèles que de la rapidité avec laquelle les équipes de sécurité s’adapteront à un paysage des menaces façonné par l’IA.