Anthropic anunció este martes que su modelo de inteligencia artificial llamado Claude Mythos, ha demostrado una notable capacidad para detectar vulnerabilidades en software, algo a considerar si trabajas en tecnología.
Claude Mythos ha expuesto miles de fallos en aplicaciones de uso común para los que aún no existe un parche o solución, lo que llevó a la startup de IA con sede en San Francisco a formar una alianza con especialistas en ciberseguridad para reforzar las defensas contra los ataques informáticos.
De acuerdo a la empresa tecnológica, el sistema Claude Mythos ha identificado fallos graves incluso en sistemas operativos y navegadores ampliamente utilizados, algunos de los cuales llevaban décadas sin ser detectados.
«Tenemos un nuevo modelo que explícitamente no vamos a publicar al público», dijo Mike Krieger, de Anthropic Labs, en la conferencia de IA HumanX celebrada en San Francisco.
Claude Mythos no será público (de momento)
Como parte de esta alerta, Anthropic está permitiendo que especialistas en ciberseguridad e ingenieros de la comunidad de código abierto trabajen con Claude Mythos para usar el modelo como arma defensiva, «en cierta forma armándolos con anticipación», explicó Krieger.
Los avances en las capacidades de los modelos de IA han generado preocupaciones sobre el uso de estas herramientas por parte de hackers para descifrar contraseñas o romper el cifrado destinado a proteger datos. Ese riesgo ha encendido alarmas incluso en el sector financiero estadounidense, que desde hace años advierte sobre el potencial de los ciberataques a gran escala.
La más antigua de las vulnerabilidades descubiertas por Claude Mythos data de hace 27 años, y ninguna había sido detectada aparentemente por sus creadores antes de ser identificada por el modelo de IA, según Anthropic.
«Los modelos de IA han alcanzado un nivel de capacidad de programación que les permite superar a todos los humanos excepto a los más especializados en encontrar y explotar vulnerabilidades de software», señaló Anthropic en su blog.
Puedes revisar más información relativa a noticias de tecnología | Instagram | YouTube | Anuncios y Publicidad (50% OFF)
About The Author
