Durante el evento Microsoft Build 2023, Qualcomm Technologies, Inc. presentó sus últimas innovaciones para impulsar la IA en dispositivos, incluyendo la ejecución de IA generativa en plataformas de cálculo Snapdragon, así como nuevas opciones para los desarrolladores que crean aplicaciones para PC con Windows 11 alimentadas por Snapdragon.
“Para que la IA generativa se vuelva realmente convencional, gran parte de la inferencia deberá ejecutarse en dispositivos periféricos”, dijo Ziad Asghar, vicepresidente senior de gestión de productos de Qualcomm Technologies, Inc. “Nuestro hardware y software de IA de primera clase capacita a los desarrolladores para aprovechar al máximo nuestras potentes capacidades de IA, brindando increíbles experiencias de usuario en computadoras portátiles, teléfonos y otros dispositivos con Snapdragon”.
El futuro de la Inteligencia artificial debe incluir tanto el hecho de impulsar la IA en dispositivos como en la nube, ya que ejecutar aplicaciones de IA en dispositivos mejora la eficiencia de costos, la privacidad, la personalización y la latencia.
Las plataformas Snapdragon incluyen un Qualcomm AI Engine dedicado para procesar cargas de trabajo de inteligencia artificial de manera más eficiente que cuando se procesan únicamente en la CPU o la GPU, lo que hace posible la IA en el dispositivo, incluso en los pequeños, delgados y livianos.
Impulsar la IA como parte de la innovación continua
En Microsoft Build, Qualcomm Technologies está mostrando demostraciones y ofrecerá herramientas para ayudar a desarrollar inteligencia artificial generativa en la próxima generación de PC con Windows 11 a fin de impulsar la IA.
Stable Diffusion, un modelo de inteligencia artificial generativa de texto a imagen con más de mil millones de parámetros, ahora se ejecuta completamente en el dispositivo, y la compañía afirma tener un claro camino hacia la ejecución de modelos con hasta diez mil millones de parámetros en dispositivos en los próximos meses, incluidos modelos de lenguaje extenso (LLM, por sus siglas en inglés).
Para mejorar el Qualcomm AI Stack y ayudar a los desarrolladores a crear la próxima generación de experiencias de IA en dispositivos, el Qualcomm® AI Engine Direct SDK estará disponible al público por primera vez en Build. Con ONNX Runtime y Qualcomm® AI Stack, puedes ejecutar tus cargas de trabajo de IA hoy en el Snapdragon 8cx Gen 3 AI Engine tanto en Surface Pro 9 5G como en Lenovo ThinkPad x13s.
“Tanto el procesamiento en la nube como el procesamiento en dispositivos son necesarios para ampliar la IA en todo el vasto universo de dispositivos y aplicaciones”, dijo Pavan Davuluri, Vicepresidente Corporativo del departamento de Silicon and Sistem Integration de Windows en Microsoft. “Al reunir el liderazgo de Microsoft en la IA en la nube y las capacidades de la plataforma Windows con la experiencia de Qualcomm Technologies en IA en dispositivos, aceleraremos las oportunidades para experiencias de inteligencia artificial generativa”.
Para obtener más información sobre la presencia de Qualcomm Technologies en Microsoft Build, visita https://build.microsoft.com/en-US/partners/24488a42-2828-4baf-8e10-28e51938ac6e?source=partners
About The Author
