Ceva, Inc. el principal licenciador de IP de silicio y software que permite a los dispositivos Smart Edge conectarse, detectar e inferir datos de forma más fiable y eficiente, ha anunciado que ha ampliado su familia Ceva-NeuPro de NPUs Edge AI con la introducción de Ceva-NeuPro-Nano NPUs. Estas NPU ("Neural Processing Units" o Unidades de Procesamiento Neural) altamente eficientes y autosuficientes ofrecen la potencia, el rendimiento y la eficiencia de costes necesarios para que las empresas de semiconductores y los OEM integren modelos TinyML en sus SoC para productos AIoT de consumo, industriales y de propósito general.
TinyML hace referencia al despliegue de modelos de aprendizaje automático en dispositivos de bajo consumo y recursos limitados para llevar la potencia de la IA al Internet de las Cosas. Impulsado por la creciente demanda de soluciones de IA eficientes y especializadas en dispositivos IoT, el mercado de TinyML está creciendo rápidamente. Según la empresa de investigación ABI Research, en 2030 más del 40% de los envíos de TinyML se realizarán con hardware TinyML dedicado en lugar de MCU polivalentes. Al abordar los retos de rendimiento específicos de TinyML, las NPU Ceva-NeuPro-Nano pretenden hacer que la IA sea omnipresente, económica y práctica para una amplia gama de casos de uso, que abarcan voz, visión, mantenimiento predictivo y detección de la salud en aplicaciones IoT industriales y de consumo.
La nueva arquitectura Ceva-NeuPro-Nano Embedded AI NPU es totalmente programable y ejecuta eficientemente redes neuronales, extracción de características, código de control y código DSP, y soporta la mayoría de los tipos de datos y operadores avanzados de machine learning, incluyendo computación nativa de transformadores, aceleración de sparsity y cuantificación rápida. Esta arquitectura optimizada y autosuficiente permite a las NPUs Ceva-NeuPro-Nano ofrecer una eficiencia energética superior, con una huella de silicio más pequeña, y un rendimiento óptimo en comparación con las soluciones de procesador existentes utilizadas para cargas de trabajo TinyML que utilizan una combinación de CPU o DSP con arquitecturas basadas en aceleradores de IA. Además, la tecnología de compresión Ceva-NetSqueeze AI procesa directamente los pesos del modelo comprimido, sin necesidad de una etapa intermedia de descompresión. Esto permite a las NPU Ceva-NeuPro-Nano lograr hasta un 80% de reducción de la huella de memoria, resolviendo un cuello de botella clave que inhibe la amplia adopción de procesadores AIoT en la actualidad.
"Ceva-NeuPro-Nano abre interesantes oportunidades para que las empresas integren aplicaciones TinyML en SoCs IoT de bajo consumo y MCUs y se basa en nuestra estrategia para potenciar los dispositivos de borde inteligentes con capacidades avanzadas de conectividad, detección e inferencia. La familia Ceva-NeuPro-Nano de NPUs permite a más empresas llevar la IA al borde mismo, lo que resulta en dispositivos IoT inteligentes con conjuntos de características avanzadas que capturan más valor para nuestros clientes", dijo Chad Lucien, vicepresidente y director general de la Unidad de Negocio de Sensores y Audio de Ceva. "Al aprovechar nuestra posición líder en la industria en conectividad IoT inalámbrica y nuestra sólida experiencia en detección de audio y visión, estamos en una posición única para ayudar a nuestros clientes a desbloquear el potencial de TinyML para permitir soluciones innovadoras que mejoren las experiencias de los usuarios, mejoren la eficiencia y contribuyan a un mundo más inteligente y conectado."
Según Paul Schell, analista industrial de ABI Research, "Ceva-NeuPro-Nano es una solución convincente para la IA en dispositivos IoT inteligentes. Responde a los requisitos de potencia, rendimiento y coste para permitir casos de uso siempre activos en dispositivos con batería que integran casos de uso de voz, visión y detección en una amplia gama de mercados finales. Desde auriculares TWS, auriculares, wearables y altavoces inteligentes hasta sensores industriales, electrodomésticos inteligentes, dispositivos de automatización del hogar, cámaras y más, Ceva-NeuPro-Nano permite TinyML en dispositivos AIoT de energía limitada."
La Ceva-NeuPro-Nano NPU está disponible en dos configuraciones - la Ceva-NPN32 con 32 int8 MACs, y la Ceva-NPN64 con 64 int8 MACs, ambas se benefician de Ceva-NetSqueeze para el procesamiento directo de pesos de modelos comprimidos. El Ceva-NPN32 está altamente optimizado para la mayoría de las cargas de trabajo TinyML orientadas a casos de uso de voz, audio, detección de objetos y detección de anomalías. La Ceva-NPN64 ofrece el doble de aceleración del rendimiento gracias a la dispersión de pesos, un mayor ancho de banda de memoria, más MAC y compatibilidad con pesos de 4 bits para mejorar el rendimiento en casos de uso de IA en dispositivos más complejos, como la clasificación de objetos, la detección de rostros, el reconocimiento de voz y la monitorización de la salud, entre otros.
Las NPU se suministran con un SDK de IA completo, Ceva-NeuPro Studio, que es una pila de IA unificada que ofrece un conjunto común de herramientas para toda la familia de NPU Ceva-NeuPro, compatible con marcos de IA abiertos como TensorFlow Lite para microcontroladores (TFLM) y microTVM (µTVM).
Características principales de Ceva-NeuPro-Nano
Arquitectura NPU flexible y escalable
- Totalmente programable para ejecutar eficientemente redes neuronales, extracción de características, código de control y código DSP
- Rendimiento escalable por diseño para satisfacer una amplia gama de casos de uso
. Configuraciones MAC con hasta 64 MAC int8 por ciclo
- Arquitectura preparada para el futuro que admite los tipos de datos y operadores de ML más avanzados
. Soporte de enteros de 4 a 32 bits
. Cálculo de transformadores nativo
- Máximo rendimiento de ML para todos los casos de uso mediante mecanismos avanzados
. Aceleración de la dispersión
. Aceleración de tipos de activación no lineales
. Cuantificación rápida
NPU Edge con requisitos de memoria ultrabajos
- El diseño de núcleo único altamente eficiente para el cálculo de la NN, la extracción de características, el código de control y el código DSP elimina la necesidad de una MCU complementaria para estas tareas de cálculo intensivo.
- Hasta un 80% de reducción de memoria gracias a Ceva-NetSqueeze, que procesa directamente los pesos comprimidos del modelo sin necesidad de una etapa intermedia de descompresión.
Energía ultrabaja gracias a innovadoras técnicas de optimización energética
- Ajuste automático de la energía sobre la marcha
- Reducción drástica de la energía y el ancho de banda gracias a la destilación de los cálculos mediante la aceleración de la dispersión de pesos.
SDK de IA completo y fácil de usar
- Ceva-NeuPro Studio proporciona una pila de IA unificada, con una experiencia fácil de usar, para todas las NPUs Ceva-NeuPro, desde la nueva Ceva-NeuPro-Nano hasta la potente Ceva-NeuPro-M.
- Rápida salida al mercado al acelerar el desarrollo y la implantación del software
- Optimizado para funcionar sin problemas con los principales marcos de inferencia de IA abiertos, incluidos TFLM y µTVM
- Zoo de modelos TinyML preentrenados y optimizados que cubren casos de uso de voz, visión y detección
- Flexible para adaptarse a nuevos modelos, aplicaciones y necesidades del mercado
- Amplia cartera de bibliotecas de tiempo de ejecución optimizadas y software listo para usar específico de la aplicación
Disponibilidad
Las NPU Ceva-NeuPro-Nano ya están disponibles para su licencia.
(Ceva)
