Los chatbots potenciados con IA continúan masificándose, y el más reciente desarrollado en China –DeepSeek– ha generado expectación mundial y no solo a nivel de usuario, sino que también en el ámbito corporativo.
Una nueva investigación de Sophos titulada “Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad”, reveló que el 89% de los líderes de TI están preocupados por los fallos de la IA Generativa, y que estos afecten negativamente las estrategias de ciberseguridad de sus empresas.
“la naturaleza de «código abierto» de DeepSeek lo abre a la exploración tanto de adversarios como de entusiastas. Al igual que con Llama, se puede jugar con él y, en gran medida, quitar las barreras de seguridad. Esto podría ser una fuente de problemas si los delincuentes deciden convertirlo en un arma, pero también es una oportunidad para que aficionados y creadores tengan un nuevo entorno para jugar”, indica Chester Wisniewski, Director Global Field CTO de Sophos.
DeepSeek y el riesgo para el lado corporativo
El experto de Sophos agrega que cuanto mejor se vayan revelando las capacidades y limitaciones de estas tecnologías, las personas podrán sacarle más provecho, y al mismo tiempo estar más preparadas para sus riesgos.
“El desafío, por supuesto, son los recursos. Mientras que el modelo de 7 mil millones de parámetros puede funcionar en un PC de escritorio de alta especificación (GPU NVidia 4080), el modelo de 678 mil millones de parámetros de DeepSeek-R1, requiere 1,3 Terabytes de memoria de GPU y 16 GPU NVidia A100, además de los 25 KWh de energía y refrigeración necesarios para operar una máquina de este tipo. Es difícil imaginar construir este sistema y la infraestructura por menos de un millón de dólares”, comenta Wisniewski, destacando que debido a estos requisitos, la mayoría de las organizaciones podrían optar por utilizar estos modelos en la nube.
Lo anterior también se condice con la investigación de Sophos, que entre otros datos, reveló que el 75% de los directores de TI coinciden en que los costos de GenAI en productos de ciberseguridad todavía son difíciles de cuantificar.
En definitiva, es probable que muchos productos adopten DeepSeek debido a su relación costo-beneficio, pero las organizaciones deberán evaluar cuidadosamente si estos usos son riesgos aceptables para la información que se procesa.
Si bien en la reciente encuesta de Sophos sobre IA, el 99% de las organizaciones encuestadas afirmó que evalúan el tamaño de los procesos y controles de ciberseguridad utilizados en el desarrollo de la GenAI, no está claro si tienen la experiencia necesaria para determinar eficazmente los riesgos.
“la competencia entre los modelos de IA traiga beneficios para todos. Debería generar más alternativas que se adapten mejor a una tarea u otra, pero también la competencia mantiene bajos los costos y reduce el riesgo de que todos tengan las mismas vulnerabilidades cuando se descubren fallas. Sin embargo, esta elección debe hacerse con cuidado, ya que quién y dónde se procesan sus datos también es una consideración muy importante. Esto se aplica no solo a su propia adopción de modelos GenAI, sino también a los productos y proveedores con los que trabaja y a los que confía sus datos confidenciales. Ahora más que nunca es un buen momento para considerar la soberanía de los datos y las cuestiones de privacidad”, agrega Chester Wisniewski.
About The Author
