Con la idea de ir ofreciendo diversas opciones a los clientes y ayudarles a reducir sus costos de operación en la Nube, además de continuar evolucionando sobre su experiencia, Amazon Web Services (AWS) presentó la nueva iteración de algunos de sus chips para IA, Nitron y Graviton, procesadores que han incrementado su popularidad entre los clientes de la compañía.
Matt Garman, CEO de AWS, destacó en el marco de reInvent 2024, que la compañía es una de las pocas oferentes en Nube con la mayor cantidad de opciones para instancias de chips de fabricantes como Intel, AMD y Nvidia, y la única con una opción de Mac.
Con la idea de ir personalizando las ofertas y otorgar más opciones con mejor rendimiento y menor consumo energético, la compañía también ha acelerado el desarrollo de sus propios chips, en este sentido, la compañía anunció la actualización de Graviton, chip basado en ARM, enfocado en ofrecer hasta un 40 por ciento mejor precio por rendimiento respecto a x86 y un 60 por ciento menos de consumo energético, de hecho, actualmente Graviton atiende un nivel de cómputo similar a todo el cómputo de AWS en 2019 a través de múltiples casos de uso.
Chips pensados para la IA
Como parte de los esfuerzos de la compañía por atraer el cómputo de IA, Amazon Web Services anunció la introducción de los chips Trainium2, que promete entre un 30 a 40 por ciento mejor rendimiento por precio, mencionar que en esta línea las instancias disponibles en la Nube de Amazon estarán compuestas por 16 chips Trn2, con un rendimiento de 20.8 petaflops.
“Ahora se puede cargar uno de estos modelos realmente grandes en un solo nodo y ofrecer una latencia mucho mejor, un rendimiento mucho mejor para los clientes sin tener que dividirlo en varios nodos”, explicó Garman.
Por su parte, Benoit Dupin, director senior de Machine Learning e IA en Apple, aseguró que la compañía logró un rendimiento 40 por ciento superior en Graviton frente a instancias x86, que ha sido utilizado para tareas como entrenamiento, ajuste (fine-tuning) y destilación, algo que es super interesante pensando en los avances de la tecnología y la IA.
About The Author
