La compañía incorpora la extensión de PyTorch en sus MCUs E4, E6 y E8 con NPU Arm Ethos-U85, permitiendo ejecutar modelos generativos y de lenguaje directamente en dispositivos IoT y embebidos.
Alif Semiconductor, proveedor líder mundial de microcontroladores y procesadores de fusión seguros, conectados y de bajo consumo con capacidades de Inteligencia Artificial y aprendizaje automático, ha anunciado la incorporación del ExecuTorch Runtime —una extensión del popular framework PyTorch— en su serie de MCUs y procesadores Ensemble E4, E6 y E8.
Esta integración permite a los desarrolladores crear aplicaciones de IA optimizadas para hardware con recursos limitados, como los microcontroladores, utilizando el ecosistema PyTorch para construir modelos ligeros con inferencia de baja latencia y alta precisión. Gracias a la inclusión del NPU Arm Ethos-U85, capaz de ejecutar redes de tipo transformer, los dispositivos Ensemble ahora pueden ejecutar aplicaciones de IA generativa directamente en el propio dispositivo, sin depender de la nube.
Entre los escenarios de uso previstos destacan los endpoints alimentados por batería —desde gafas inteligentes y sistemas de interacción humano-máquina, hasta aplicaciones de salud, diagnóstico, robótica, transporte, educación, juguetes, hogares y ciudades inteligentes—, que se beneficiarán de una inteligencia local más ágil y eficiente.
Durante la PyTorch Conference, celebrada los días 22 y 23 de octubre en el Moscone West de San Francisco, Arm presentó varias demostraciones de IA generativa compiladas con ExecuTorch y ejecutadas sobre el procesador Ensemble E8 de Alif Semiconductor. Entre ellas se mostraron:
- Un modelo de lenguaje de pequeño tamaño capaz de generar historias infantiles a partir de estímulos visuales, con posibilidad de ampliarse a entradas por voz.
- Un sistema de transcripción de voz a texto en tiempo real, pensado para su integración en wearables como gafas inteligentes, que ofrece subtitulado instantáneo.
“La innovación continua de Alif nos mantiene a la vanguardia de la IA en el borde, ahora extendida a la era de la IA generativa”, señaló Reza Kazerounian, presidente de Alif Semiconductor. “Con el soporte nativo del ExecuTorch Runtime en nuestros microcontroladores Ensemble, ampliamos las posibilidades de la IA a nivel MCU. Para los fabricantes de dispositivos embebidos que desarrollan productos inteligentes de nueva generación, Alif sigue siendo el aliado de confianza para llevar la IA al edge.”
Por su parte, Paul Williamson, vicepresidente sénior y director general de la división IoT de Arm, destacó: “La IA generativa en el borde está habilitando una nueva clase de dispositivos inteligentes y alimentados por batería, capaces de comprender y responder en tiempo real. Gracias al marco ExecuTorch, los desarrolladores pueden desplegar modelos PyTorch en los MCUs Ensemble de Alif con inferencia local y bajo consumo. Esta colaboración demuestra cómo un ecosistema unificado puede escalar la inteligencia en el edge y acelerar la innovación de IA aplicada.”
El kit de desarrollo Alif DK-E8, utilizado en las demostraciones de la conferencia y compatible con toda la gama E4/E6/E8, ya está disponible para su adquisición, ofreciendo a los desarrolladores un entorno completo para crear y probar aplicaciones de IA generativa en el borde.
(Alif Semiconductor)
