Los modelos de IA chinos reducen la brecha de rendimiento y plantean nuevas preguntas para los equipos de seguridad

Dos nuevos modelos de lenguaje de gran tamaño de empresas chinas están atrayendo la atención por su sólido rendimiento frente a sistemas convencionales y de frontera ampliamente utilizados en Estados Unidos. Estos lanzamientos son otra señal de que la carrera mundial por la IA se está acelerando, con modelos más capaces disponibles de un abanico cada vez más amplio de proveedores.

Para los equipos de ciberseguridad, este progreso tiene dos caras. Por un lado, una IA más avanzada puede mejorar la revisión de código, el análisis de amenazas, la clasificación de alertas y la respuesta ante incidentes. Por otro, esas mismas capacidades pueden utilizarse para ayudar a los atacantes a redactar mensajes de phishing convincentes, automatizar el reconocimiento, perfeccionar el malware o ampliar campañas de ingeniería social.

Los investigadores de seguridad llevan mucho tiempo advirtiendo que el valor de la IA generativa no depende únicamente de quién la desarrolle, sino de cómo se utilice. A medida que los modelos se vuelven más fluidos, más baratos de ejecutar y más fáciles de utilizar, la barrera de entrada para los usos maliciosos podría seguir reduciéndose. Esto no significa que esté garantizado un aumento inmediato de los ataques en el mundo real, pero sí sugiere que los defensores deben esperar que las operaciones asistidas por IA sean cada vez más comunes con el tiempo.

Qué deberían vigilar los defensores

• Generación de contenido más rápida: Los atacantes pueden producir rápidamente señuelos elaborados, mensajes de soporte falsos y contenido de phishing multilingüe.
• Mejor asistencia para la programación: Los actores con menos conocimientos pueden utilizar modelos de lenguaje de gran tamaño para modificar scripts, crear herramientas sencillas o solucionar problemas de las cargas maliciosas.
• Suplantaciones más convincentes: Una mejor calidad lingüística puede hacer que los correos electrónicos fraudulentos, los mensajes de chat y los guiones de voz sean más difíciles de detectar.
• Automatización a gran escala: La IA puede ayudar a los adversarios a probar variaciones de un ataque y adaptarse más rápidamente a las defensas.

Al mismo tiempo, los defensores no se están quedando de brazos cruzados. Muchas organizaciones ya utilizan la IA para resumir registros, priorizar alertas y apoyar la búsqueda de amenazas. El problema principal podría ser la velocidad: cuando ambos bandos tienen acceso a modelos capaces, los equipos de seguridad quizá deban invertir más en detección, verificación y procesos resilientes, en lugar de depender únicamente de la revisión manual.

Por ahora, la llegada de modelos de lenguaje de gran tamaño chinos más competitivos debe considerarse otro hito en un mercado que evoluciona rápidamente. Que estos modelos amplíen la brecha entre atacantes y defensores dependerá menos de los nombres de los modelos y más de la rapidez con la que los equipos de seguridad se adapten a un panorama de amenazas determinado por la IA.