Neural Engine
También: ANE
Actualizado el
Definición
El Neural Engine es la parte de un chip Apple silicon hecha para ejecutar modelos de aprendizaje automático de forma eficiente, junto a la CPU y la GPU. Es la razón por la que un portátil puede ejecutar reconocimiento de voz de forma continua sin calentarse, sin ruido de ventilador y sin agotar la batería.
Todos los Macs con chip de la serie M tienen uno. Es un conjunto de núcleos especializados en el cálculo matricial del que están hechas las redes neuronales, y hace ese cálculo con una fracción de la energía que necesitarían una CPU o una GPU. El reconocimiento de voz es justo el tipo de carga constante y siempre activa para la que se diseñó el Neural Engine: un modelo que tiene que seguir el ritmo del audio en tiempo real, todo el rato que estés hablando, sin ralentizar el resto del equipo.
No todos los modelos encajan. El Neural Engine tiene sus propias limitaciones de forma y precisión del modelo, y un modelo tiene que convertirse para él. Ese trabajo de ingeniería es una de las diferencias reales entre las herramientas de dictado locales que parecen no costar nada y las que ejecutan el mismo modelo en la GPU y te calientan las piernas.
Neural Engine, GPU y CPU
La CPU puede ejecutar cualquier cosa, pero es la más lenta y la que más consume con los cálculos de redes neuronales. La GPU es rápida y flexible, y es donde funcionan la mayoría de los modelos de lenguaje locales, mediante frameworks como MLX o Metal. El Neural Engine es el más eficiente de los tres para los modelos que cumplen sus limitaciones, y los modelos de reconocimiento de voz las cumplen bien. Una herramienta de dictado local bien hecha pone cada modelo donde mejor funciona y deja la CPU libre para la app en la que estás escribiendo.
Por qué es un requisito
Dictar en local en un Mac con Intel significa ejecutar el modelo en una CPU que no se hizo para ello. Funciona, despacio, y esa es buena parte de la razón por la que las herramientas en el dispositivo ponen Apple silicon como mínimo. En un M1 o posterior, los mismos modelos funcionan en tiempo real sin que el equipo apenas lo note, y esa es la diferencia entre una herramienta que dejas encendida todo el día y una que enciendes en ocasiones especiales.
Cómo comprobar si tu Mac tiene Neural Engine
En el Mac, el Neural Engine llegó con el chip M1. Así que la pregunta en realidad es si tu Mac tiene Apple silicon, y macOS te lo dice en una ventana.
- Haz clic en el menú Apple, en la esquina de la pantalla.
- Elige Acerca de este Mac.
- Lee la ventana que se abre. Un Mac con Apple silicon muestra un elemento llamado Chip, seguido del nombre del chip.
- Si ves un elemento llamado Procesador seguido del nombre de un procesador Intel, el Mac es un Mac con Intel y no tiene Neural Engine.
¿Cuándo llegó el Neural Engine a los Macs?
El Neural Engine empezó en el iPhone. Apple dice que la primera generación llegó con el chip A11 del iPhone X en 2017. Llegó al iPad con el chip A12 y al Mac con el chip M1.
La lista de Apple de ordenadores Mac con Apple silicon incluye el MacBook Air con M1 de 2020 y todos los MacBook Air de 2022 o posteriores, el MacBook Pro de 13 pulgadas con M1 de 2020 y todos los MacBook Pro de 2021 o posteriores, el Mac mini de 2020 o posterior, el iMac de 2021 o posterior, el Mac Studio de 2022 o posterior y el Mac Pro de 2023. En esos años todavía se vendían algunos modelos con Intel, así que mira Acerca de este Mac en lugar de fiarte solo del año.
¿Por qué unas apps usan el Neural Engine y otras no?
Una app no habla directamente con el Neural Engine. Entrega un modelo a Core ML, el framework de aprendizaje automático de Apple, y Apple dice que Core ML combina la CPU, la GPU y el Neural Engine en el plan de ejecución más eficaz para el dispositivo. Las partes de un modelo que no encajan en el Neural Engine se ejecutan en otro sitio.
Cómo está escrito el modelo decide qué parte acaba en el Neural Engine. En un ejemplo publicado, ingenieros de Apple reestructuraron un modelo de texto para el Neural Engine e indicaron que funcionaba hasta 10 veces más rápido y con 14 veces menos memoria máxima en un iPhone 13 que la versión sin optimizar. Por esto mismo, el mismo modelo puede ser rápido en una app y lento en otra.
Preguntas que hace la gente.
¿Qué hace el Neural Engine por el dictado?
Ejecuta el modelo de reconocimiento de voz en tiempo real con muy poco consumo, para que una herramienta de dictado local pueda transcribir de forma continua sin calentar el equipo ni agotar la batería. Por eso el dictado local parece no costar nada en Apple silicon y va lento en Macs más antiguos.
¿Necesito Apple silicon para dictar en local?
Para que vaya bien, sí. Técnicamente, los modelos pueden funcionar en una CPU Intel, pero despacio. Por eso la mayoría de las herramientas de dictado en el dispositivo para Mac piden un M1 o posterior.
¿Tiene mi Mac Neural Engine?
Sí, si tiene Apple silicon. Elige el menú Apple → Acerca de este Mac: una línea llamada Chip significa Apple silicon, y una línea llamada Procesador con un nombre de Intel significa que no hay Neural Engine.
¿Cuándo se presentó el Neural Engine de Apple?
Apple dice que el primer Neural Engine llegó en 2017 como parte del chip A11 del iPhone X. Llegó al Mac con el chip M1.
¿El Neural Engine es lo mismo que la GPU?
No. Son partes distintas de un chip de Apple silicon. Core ML puede repartir un mismo modelo entre la CPU, la GPU y el Neural Engine.
