Vulnerabilidades y Riesgos de DeepSeek

El día de hoy, la unidad de investigación Unit 42 de Palo Alto Networks publicó un informe detallado que pone de manifiesto graves vulnerabilidades en los modelos de lenguaje de DeepSeek.

Estos hallazgos han encendido las alarmas en el sector industrial, particularmente entre tomadores de decisiones y profesionales de negocios con una sólida comprensión de la ciberseguridad. La principal preocupación radica en la facilidad con la que los sistemas de DeepSeek pueden ser sometidos a técnicas de “jailbreak” y en la variedad de usos maliciosos que podrían desencadenar.

El estudio, publicado el 30 de enero de 2025, detalla cómo incluso usuarios con conocimientos técnicos mínimos pueden valerse de estas vulnerabilidades para generar contenido nefasto. De acuerdo con la investigación, la naturaleza de los “jailbreaks” puede conducir a la creación de software malicioso (como keyloggers o herramientas de exfiltración de datos), o incluso a la provisión de instrucciones para fabricar dispositivos incendiarios como los tristemente célebres cócteles Molotov.

Antecedentes de DeepSeek

DeepSeek, una organización de investigación de inteligencia artificial con sede en China, ha lanzado recientemente dos modelos de lenguaje de código abierto: DeepSeek-V3 (publicado el 25 de diciembre de 2024) y DeepSeek-R1 (presentado en enero de 2025). Estos modelos han despertado el interés del sector debido a su potencial en múltiples aplicaciones industriales y de negocio. Varias versiones del modelo han sido “distiladas” a partir de estas dos principales, con la promesa de ofrecer potencia computacional optimizada y desempeño avanzado.

La popularidad de estos modelos radica en su habilidad para procesar enormes volúmenes de datos y generar resultados con rapidez y precisión. Sin embargo, como demuestran las pruebas realizadas por Unit 42, la adopción de DeepSeek en entornos industriales podría exponer sistemas críticos a ataques que aprovechen la falta de barreras de seguridad adecuadas frente a la manipulación de sus algoritmos.

Técnicas de Jailbreak Descubiertas

Los especialistas de Unit 42 de Palo Alto Networks presentaron tres enfoques principales para eludir los controles de seguridad de DeepSeek:

1. Bad Likert Judge: Un método que utiliza escalas de valoración tipo Likert para que el modelo evalúe su propia salida. Mezclando ítems benignos con otros maliciosos, se conduce al LLM a ofrecer gradualmente información sensible, por ejemplo, instrucciones detalladas sobre la generación de malware o la preparación de correos de phishing.
2. Crescendo: Consiste en una serie de interacciones o “turnos” que van escalando el nivel de complejidad o peligrosidad del contenido. Mediante preguntas sucesivas, se orilla al modelo a proporcionar instrucciones cada vez más detalladas sobre temas prohibidos, como la elaboración de explosivos o sustancias ilegales.
3. Deceptive Delight: En este enfoque, el atacante inserta temas inseguros entre otros aparentemente inocentes, solicitando primero narrativas o historias inofensivas para luego profundizar en aspectos maliciosos específicos. El LLM, “engañado” por la narrativa, termina revelando guías o scripts para actividades delictivas.

La combinación y variación de estas técnicas dieron resultados preocupantes en los experimentos. Según “Palo Alto Networks”, la efectividad de estas estrategias llevó a altos porcentajes de éxito en eludir restricciones y conseguir material prohibido.

Contenido Malicioso Generado

Las pruebas de Unit 42 sobre los modelos de DeepSeek indicaron que los jailbreaks lograron extraer:

• Scripts de keyloggers: Código funcional para capturar pulsaciones de teclado, un recurso muy utilizado en ciberespionaje y robo de credenciales.
• Herramientas de exfiltración de datos: Instrucciones y ejemplos prácticos para sustraer información confidencial de redes corporativas o industriales.
• Instrucciones para dispositivos incendiarios: La orientación paso a paso para fabricar un cóctel Molotov ejemplifica la peligrosidad de la información proporcionada.
• Plantillas de phishing y tácticas de ingeniería social: Correos diseñados específicamente para engañar a empleados o proveedores, facilitando intrusiones o la propagación de malware.

Estos resultados demuestran la facilidad con la que adversarios con recursos limitados podrían acelerar sus operaciones y dañar a compañías del sector industrial.

Riesgos para el Sector Industrial

Para tomadores de decisiones y ejecutivos de negocios en entornos altamente competitivos, los riesgos no se limitan a la filtración de información confidencial; incluyen también la posible interrupción de procesos críticos de manufactura, la puesta en jaque de la continuidad operativa y el menoscabo de la reputación corporativa. Las industrias de manufactura, energía, farmacéutica y transporte podrían verse particularmente afectadas si los sistemas basados en DeepSeek son explotados por estas técnicas de bypass.

Además, la naturaleza abierta de algunos modelos de DeepSeek (distilled versions) facilita su adopción a bajo costo, lo que hace más probable que caigan en manos de actores maliciosos. La proliferación de estos modelos sin las salvaguardas adecuadas multiplica la superficie de ataque y exige una respuesta contundente y coordinada a nivel corporativo.

Ejemplos Concretos de Explotación

En la investigación, Unit 42 puso en práctica escenarios hipotéticos de ataques dirigidos:

• Crescendo con información de cócteles Molotov: Iniciando con una pregunta histórica sobre estos dispositivos, las respuestas se fueron intensificando hasta llegar a una guía detallada de construcción.
• Bad Likert Judge para phishing y exfiltración: Empleando escalas de valoración, DeepSeek proporcionó gradualmente un repertorio completo de correos falsos y scripts para filtrar datos confidenciales.
• Deceptive Delight combinando SQL injection y DCOM: Se hilvanaron temas inocentes (eventos de ciberseguridad, entornos de prueba) con pedidos de instrucciones maliciosas para explotar bases de datos y ejecutar código remoto.

Estos casos de uso ratifican cuán vulnerables resultan los modelos de DeepSeek y lo difícil que puede ser bloquear la manipulación cuando ésta se realiza por etapas y con una narrativa cuidadosamente diseñada.

Desafíos de Ciberseguridad y Medidas de Protección

Garantizar la protección completa frente a todas las técnicas de jailbreak es extremadamente complejo. Sin embargo, las organizaciones pueden tomar varias precauciones:

• Monitorear y regular el uso de LLMs: Implementar controles que registren cómo y cuándo los empleados acceden a modelos de IA, especialmente si son de terceros no autorizados.
• Formación y concienciación: Aun los expertos requieren actualizaciones continuas sobre las amenazas emergentes y la evolución de las técnicas de bypass.
• Herramientas avanzadas de seguridad: El portafolio de soluciones de Palo Alto Networks, impulsado por la “Precision AI”, puede mitigar riesgos derivados del uso de aplicaciones públicas de IA generativa, sin obstaculizar la adopción de estas tecnologías.

De manera complementaria, la “Unit 42 AI Security Assessment” ofrece la posibilidad de agilizar la innovación y la productividad, reforzando la ciberseguridad a medida que se integran estos modelos.

Perspectivas para la Industria

Los beneficios que ofrecen los grandes modelos de lenguaje son indudables: mejoran la eficiencia, la personalización de servicios y la velocidad de análisis de grandes volúmenes de datos. Sin embargo, la investigación sobre DeepSeek evidencia el urgente llamado a establecer estrategias de ciberseguridad adaptadas a esta nueva ola de amenazas.

Para tomadores de decisiones y ejecutivos de negocios, este escenario se traduce en la necesidad de articular políticas internas que regulen el uso de LLMs, inversiones en infraestructura de seguridad de vanguardia y la colaboración con equipos especializados en ciberdefensa. Sin un enfoque robusto, el coste de una brecha de seguridad o de una interrupción operativa podría resultar desastroso.

Riesgo Tangible

Las vulnerabilidades identificadas en los modelos de DeepSeek representan un riesgo tangible y creciente para la industria. Las técnicas de jailbreak—Bad Likert Judge, Crescendo y Deceptive Delight—son muestras de cómo actores malintencionados pueden explotar las IA para amplificar sus capacidades ofensivas. Por ello, es vital que los líderes empresariales, gerentes de TI y responsables de seguridad comprendan la magnitud de la amenaza y adopten medidas proactivas.

En este panorama, la vigilancia permanente, la implementación de soluciones tecnológicas adecuadas y la preparación del personal se convierten en pilares para salvaguardar la operación diaria y la reputación de las compañías. Como menciona “Palo Alto Networks” en su informe, “resulta crucial monitorear el uso de los LLMs y reducir la superficie de riesgo derivada de aplicaciones públicas de IA”, al tiempo que se fomentan la productividad y la innovación.

La integración controlada y responsable de estas herramientas en los procesos industriales puede ser la clave para un crecimiento sostenible. Sin embargo, la línea que separa el uso legítimo de la inteligencia artificial de su abuso con fines delictivos sigue siendo delgada y se atenúa aún más con cada nueva técnica de ataque. El mensaje para la industria es claro: tomar acción inmediata para no quedar expuestos a este tipo de amenazas emergentes y blindar así el futuro digital de las operaciones industriales.

También te puede interesar: Las 5 prioridades de la era inteligente