Expertos en ciberseguridad advierten sobre los peligros de esta IA y su potencial uso para la generación de software malicioso.

DeepSeek, la startup china que revolucionó el mundo de la inteligencia artificial con su chatbot de código abierto, está en el centro de la controversia. Investigadores han descubierto que su IA puede ser manipulada para crear malware, generando serias preocupaciones sobre su seguridad y ética. ¿Está esta tecnología en manos equivocadas?

Un Modelo Transparente, pero Vulnerable

DeepSeek R1 ha demostrado ser una IA con una gran capacidad de procesamiento y generación de código. Sin embargo, esta transparencia podría estar jugando en su contra. A diferencia de otros modelos que ocultan sus procesos internos, DeepSeek R1 muestra abiertamente su razonamiento paso a paso. Esto permite a los usuarios entender mejor cómo toma decisiones, pero también deja la puerta abierta a que actores maliciosos exploten estas rutas de razonamiento.

Según investigadores de la empresa de ciberseguridad Kela, esta característica convierte a DeepSeek en un blanco fácil para «jailbreaks» y ataques adversariales. Expertos lograron que el modelo generara código malicioso capaz de robar datos de tarjetas de crédito y enviarlos a servidores remotos, además de sugerir cómo comprar información robada en mercados clandestinos.

El Creador de DeepSeek y su Ambiciosa Misión

Liang Wenfeng, el cerebro detrás de DeepSeek, no proviene del mundo académico tradicional de la IA. Este ex-gestor de fondos de cobertura decidió aventurarse en el campo tecnológico con la ambición de cerrar la brecha entre China y Estados Unidos en inteligencia artificial. En 2021, comenzó a acumular miles de procesadores Nvidia justo antes de que las restricciones de exportación impuestas por la administración de Biden limitaran su acceso en China.

Su enfoque ha sido el de optimizar la eficiencia de la IA china. «Históricamente, hemos necesitado más potencia computacional para obtener los mismos resultados. Nuestro objetivo es reducir esa brecha con innovación», declaró Wenfeng en 2024. Sin embargo, los expertos se preguntan si este desarrollo traerá consigo consecuencias inesperadas.

¿Una Herramienta de Espionaje Disfrazada?

Más allá de su vulnerabilidad ante la creación de malware, DeepSeek también enfrenta acusaciones sobre un posible uso para el espionaje y la censura de información.

Un análisis en Medium ha planteado preocupaciones sobre si, al igual que TikTok, DeepSeek podría verse obligado a compartir datos con el gobierno chino. De hecho, se ha detectado que la IA evita responder preguntas sobre temas sensibles para el gobierno de China, como los uigures o la soberanía de Taiwán.

El experto en seguridad Darren Guccione advirtió que introducir información corporativa en esta plataforma podría exponer datos clave a una vigilancia gubernamental, convirtiéndola en un «Caballo de Troya» para las empresas y sus empleados.

Ataques Cibernéticos y Nuevas Amenazas

DeepSeek no solo ha demostrado ser vulnerable a la generación de malware, sino que también ha sido víctima de ciberataques. Según MSSP Alert y ChannelE2E, la plataforma sufrió un ataque de denegación de servicio distribuido (DDoS), lo que obligó a suspender temporalmente el registro de nuevos usuarios.

La teoría de que DeepSeek podría haber sido blanco de un ataque masivo no es descabellada, considerando su creciente influencia en el mercado. Tras su lanzamiento, el modelo generó un impacto significativo en el sector tecnológico al demostrar un rendimiento similar a las IAs de Estados Unidos, pero a un costo mucho menor.

DeepSeek en la Mira de la Comunidad Tecnológica

Expertos en ciberseguridad han mostrado cómo DeepSeek puede ser explotado para evadir restricciones y ejecutar comandos maliciosos. Videos en YouTube documentan vulnerabilidades del sistema, como ataques de inyección de comandos, lo que refuerza las preocupaciones sobre su seguridad.

La facilidad con la que los «jailbreaks» pueden alterar el comportamiento de la IA resalta los riesgos de estos modelos abiertos. Especialistas han demostrado que las salvaguardas de DeepSeek pueden ser burladas con relativa facilidad, permitiendo la generación de contenido dañino.

¿Un Futuro Incierto para DeepSeek?

A medida que la IA se convierte en una parte esencial de la industria tecnológica, el caso de DeepSeek plantea interrogantes sobre los límites entre la innovación y la seguridad. Si bien su modelo de bajo costo es atractivo para muchas empresas, sus vulnerabilidades podrían eclipsar sus beneficios.

La pregunta sigue en el aire: ¿DeepSeek es realmente un regalo para el mundo, como lo ha descrito Marc Andreessen, o es un riesgo latente con el potencial de desestabilizar la seguridad global? La comunidad tecnológica sigue atenta a su evolución, esperando respuestas claras sobre su impacto a largo plazo.