La inferencia de IA se acerca al edge

Autor: Florian Drittenthaler, Product Line Manager, congatec

Procesadores Intel Core i de alto rendimiento para módulos SMARC de bajo consumo

Desde el desarrollo de las redes neuronales artificiales hace más de una década, la IA se ha integrado de manera constante en casi todos los aspectos de la vida y el trabajo modernos, desde la visión artificial y la robótica hasta los modelos de lenguaje de gran tamaño (LLM – Large Language Models) que simplifican diversas tareas. En IA, «inferencia» se refiere a la capacidad de un modelo entrenado para tomar decisiones lógicas basadas en datos en vivo. El uso de un ordenador de bajo consumo con un acelerador de inferencia integrado cerca de la fuente de datos acelera significativamente los tiempos de respuesta y también puede ofrecer mayor autonomía, seguridad y privacidad.

Un módulo SMARC (Smart Mobility ARChitecture) es un módulo informático compacto y de bajo consumo diseñado para sistemas embebidos edge. Su pequeño factor de forma, escalabilidad y compatibilidad con tecnologías avanzadas de IA y virtualización hacen que los módulos SMARC sean ideales para aplicaciones industriales, médicas y de IoT que requieren eficiencia energética y un rendimiento robusto [¹]. Ahora es posible realizar nuevos avances en cálculo de bajo consumo en los módulos informáticos SMARC con los procesadores Core i de Intel, ampliamente mejorados. Los nuevos chips Atom x7000RE “Amston Lake” pueden ofrecer capacidades superiores sin salirse de las mismas limitaciones de consumo de energía, ofreciendo ganancias de rendimiento de hasta el 49 % para aplicaciones de un solo subproceso y el 61 % en aplicaciones de múltiples subprocesos [²]. Aún más impresionante es la mejora de 9,83 veces en el rendimiento de clasificación de imágenes, lo que hace posible verdaderas capacidades de inferencia de IA en sistemas embebidos y edge como los módulos SMARC.

Dentro de los procesadores Amston Lake, Intel ahora ofrece una microarquitectura “Gracemont” estandarizada para sus núcleos eficientes (E-cores), lo que permite la integración de sofisticadas funciones de IA del ecosistema x86 como las Instrucciones de Red Neural Vectorial (VNNI) en sistemas de bajo consumo de hasta 15 W, que anteriormente estaban reservadas para sistemas con márgenes de energía mucho más altos.

Figura 1: Los módulos SMARC basados ​​en Intel Core i ofrecen un aumento de rendimiento de 9,83 veces en la clasificación de imágenes, lo que permite obtener información de IA más rápida y precisa para una nueva generación de sistemas inteligentes y conectados.

Sistemas industriales más inteligentes basados ​​en IA

La expansión de la lógica de inferencia de IA a sistemas de bajo consumo permite a los fabricantes industriales adoptar sistemas más inteligentes y eficientes. Las aplicaciones basadas en IA, incluido el reconocimiento y la detección de objetos, se están volviendo esenciales para mejorar los procesos de producción, como en las operaciones de recogida y colocación o las tareas de control de calidad. En robótica, la capacidad de procesar datos visuales en tiempo real es esencial para los vehículos guiados autónomos (AGV), los robots de servicio y los robots colaborativos (cobots). Con el aumento de rendimiento que ofrecen los nuevos procesadores Intel Core i en los módulos SMARC, estos sistemas ahora pueden manejar algoritmos más avanzados, lo que conduce a una toma de decisiones más rápida y operaciones más seguras.

En tecnología médica, la segmentación y el procesamiento avanzados de imágenes están impulsando el progreso en campos como el diagnóstico y la cirugía. Por ejemplo, los dispositivos de ultrasonido móviles se benefician de un procesamiento más rápido impulsado por IA, que puede acelerar el diagnóstico y mejorar los resultados del paciente. En una línea similar, los sistemas de seguridad mejorados con IA, la vigilancia de ciudades inteligentes e incluso las terminales de pago automatizadas en entornos minoristas podrían experimentar mejoras significativas gracias a las capacidades mejoradas de clasificación de imágenes que ofrecen estos nuevos procesadores. Desarrollo de IA optimizado con el ecosistema de Intel

Una de las características destacadas de la nueva generación de procesadores de Intel es la facilidad con la que los desarrolladores pueden implementar tecnologías de IA en una amplia gama de aplicaciones. Los desarrolladores que ya están familiarizados con la lógica de inferencia de IA de Intel en sistemas de alto rendimiento ahora pueden transferir fácilmente esa tecnología a diseños compactos de bajo consumo con tolerancia a temperaturas industriales (desde -40 °C a +85 °C). Esto se debe a que las CPU, con hasta 8 núcleos E y la GPU Intel Gen 12 UHD con 32 unidades de ejecución, son las mismas que se encuentran en los procesadores de gama alta que utilizan la microarquitectura Gracemont, que también admite la inferencia de aprendizaje profundo INT8.

Este proceso de desarrollo optimizado es particularmente valioso para aplicaciones donde el bajo consumo de energía y la tolerancia a temperaturas industriales son factores críticos. La estandarización de las características relacionadas con la IA, como los conjuntos de instrucciones VNNI y AVX2, en toda la gama de productos de Intel significa que los desarrolladores pueden centrarse en los aspectos únicos de sus aplicaciones, acelerando el tiempo de comercialización y manteniendo altos niveles de rendimiento y seguridad. También se puede aprovechar un conjunto completo de herramientas, desde núcleos hasta kits de herramientas como OpenVino, para incorporar rápidamente capacidades de IA a sus sistemas sin tener que invertir mucho en el desarrollo de software personalizado.

Figura 2: Los módulos SMARC de congatec vienen con un hipervisor integrado en el firmware, lo que mejora la ciberseguridad y simplifica la virtualización.

Mayor flexibilidad y seguridad mediante la virtualización

Con Intel duplicando la cantidad de núcleos E en los procesadores Amston Lake, esto amplía significativamente las opciones de virtualización, una tecnología que ofrece tanto flexibilidad como seguridad en sistemas industriales y embebidos. Al consolidar múltiples sistemas en una sola pieza de hardware, las empresas pueden reducir costes y aumentar la eficiencia al mismo tiempo que mantienen una estricta separación entre las diferentes funciones operativas. Esta separación es crucial para mejorar la ciberseguridad, en particular en sistemas que deben cumplir con regulaciones como la Ley de Resiliencia Cibernética (Cyber Resilience Act).

La virtualización también simplifica la gestión del sistema al permitir a los desarrolladores crear entornos virtuales aislados para tareas como mantenimiento o actualizaciones. Esto garantiza que las operaciones críticas puedan seguir ejecutándose sin interrupciones, lo que mejora tanto la disponibilidad como la fiabilidad del sistema. Para las industrias que dependen de la Internet industrial de las cosas (IIoT), la capacidad de ejecutar tareas de mantenimiento en una máquina virtual separada del sistema principal puede ayudar a reducir el tiempo de inactividad y mejorar la resiliencia general del sistema. Solución Hypervisor-on-Module para módulos SMARC

Llevando la virtualización un paso más allá, congatec ha introducido una característica única con su tecnología Hypervisor-on-Module en su módulo SMARC conga-SA8. Al integrar un hipervisor directamente en el firmware del módulo SMARC, congatec simplifica la implementación de máquinas virtuales, lo que reduce la carga de desarrollo y permite soluciones más seguras, rentables y duraderas. Esta característica también admite capacidades en tiempo real, que son esenciales en entornos industriales donde se requiere una sincronización y un tiempo precisos.

Con esta tecnología, congatec ofrece a los desarrolladores una solución lista para usar para crear sistemas virtualizados que cumplan con los más altos estándares de ciberseguridad y fiabilidad. Ya sea que el sistema requiera funcionalidad en tiempo real o no, este enfoque proporciona un mayor nivel de seguridad en comparación con los métodos de contenedorización tradicionales. Cada máquina virtual opera de forma independiente, lo que crea entornos aislados que evitan la propagación de amenazas en todo el sistema.

congatec también ofrece una versión aReady.COM del conga-SA8, que permite a los clientes comprar módulos preconfigurados adaptados a sus necesidades. Por ejemplo, estos módulos pueden venir con el sistema operativo ctrlX de Bosch Rexroth y máquinas virtuales para tareas como control en tiempo real, HMI, IA, intercambio de datos IIoT, firewall y funciones de mantenimiento o administración, listos para su uso inmediato. Los nuevos módulos SMARC también son totalmente compatibles con múltiples versiones de Microsoft Windows.

El conga-SA8 es uno de los primeros módulos SMARC que admite Wi-Fi 6E, lo que ofrece casi el triple de velocidad de datos que Wi-Fi 5 y conexiones más confiables en áreas congestionadas. También está listo para TSN sobre Wi-Fi, lo que garantiza conexiones deterministas con rendimiento garantizado, ofreciendo una alternativa rentable a 5G o Ethernet. Diseñado para uso industrial, el módulo cuenta con ECC en banda para una mayor seguridad de los datos y DRAM soldada para una mayor durabilidad en entornos extremos.

Figura 3. Los módulos SMARC están diseñados con portadores de aplicaciones y soluciones de refrigeración, listos para la producción en serie y el uso inmediato.

Allanando el camino para futuras innovaciones en IA

La introducción de procesadores Intel Core i en los módulos SMARC marca un hito significativo para los sistemas embebidos y edge computing. La adopción de estos módulos SMARC más potentes permitirá nuevos avances allí donde se necesite una lógica de inferencia de IA robusta y de alto rendimiento en sistemas pequeños sin ventilación forzada para su uso en entornos industriales adversos. Desde la automatización industrial y la robótica hasta la atención médica y el comercio minorista, las posibles aplicaciones de esta tecnología son amplias y están en aumento.

A medida que la IA continúa transformando las industrias, la capacidad de implementar una lógica de inferencia potente en sistemas compactos y energéticamente eficientes será cada vez más importante. Los desarrolladores ahora tienen acceso a un ecosistema que admite una implementación rápida, lo que les permite centrarse en la innovación y la diferenciación.