Neural Engine
Anche: ANE
Aggiornato il
Definizione
Il Neural Engine è la parte di un chip Apple silicon pensata per eseguire in modo efficiente i modelli di apprendimento automatico, accanto a CPU e GPU. È il motivo per cui un portatile può eseguire il riconoscimento vocale di continuo senza scaldarsi, senza rumore della ventola e senza scaricare la batteria.
Ogni Mac con chip della serie M ne ha uno. È un insieme di core specializzati nei calcoli matriciali di cui sono fatte le reti neurali, e li esegue con una frazione dell’energia che servirebbe a una CPU o a una GPU. Il riconoscimento vocale è proprio il tipo di carico costante e sempre attivo per cui il Neural Engine è stato progettato: un modello che deve stare al passo con l’audio in tempo reale, per tutto il tempo in cui parli, senza rallentare il resto del computer.
Non tutti i modelli ci stanno. Il Neural Engine ha i suoi vincoli sulla forma e sulla precisione dei modelli, e un modello va convertito per lui. Quel lavoro di ingegneria è una delle vere differenze tra gli strumenti di dettatura locali che sembrano non fare fatica e quelli che eseguono lo stesso modello sulla GPU e ti scaldano le gambe.
Neural Engine, GPU e CPU
La CPU può eseguire qualsiasi cosa, ma è la più lenta e la più affamata di energia con i calcoli delle reti neurali. La GPU è veloce e flessibile ed è dove gira la maggior parte dei modelli linguistici locali, tramite framework come MLX o Metal. Il Neural Engine è il più efficiente dei tre per i modelli che rispettano i suoi vincoli, e i modelli di riconoscimento vocale li rispettano bene. Uno strumento di dettatura locale fatto bene mette ogni modello dove gira meglio e lascia la CPU libera per l’app in cui stai scrivendo.
Perché è un requisito
La dettatura locale su un Mac Intel significa eseguire il modello su una CPU che non è stata fatta per questo. Funziona, lentamente, ed è una delle ragioni principali per cui gli strumenti sul dispositivo richiedono almeno Apple silicon. Su un M1 o successivo gli stessi modelli girano in tempo reale e il computer quasi non se ne accorge, ed è la differenza tra uno strumento che lasci acceso tutto il giorno e uno che accendi solo nelle occasioni speciali.
Come verificare se il tuo Mac ha un Neural Engine
Sul Mac, il Neural Engine è arrivato con il chip M1. Quindi la vera domanda è se il tuo Mac ha Apple silicon, e macOS te lo dice in una sola finestra.
- Fai clic sul menu Apple nell’angolo dello schermo.
- Scegli Informazioni su questo Mac.
- Leggi la finestra che si apre. Un Mac con Apple silicon mostra una voce chiamata Chip, seguita dal nome del chip.
- Se vedi una voce chiamata Processore seguita dal nome di un processore Intel, il Mac è basato su Intel e non ha un Neural Engine.
Quando i Mac hanno avuto un Neural Engine?
Il Neural Engine è nato su iPhone. Apple dice che la prima generazione è arrivata con il chip A11 di iPhone X nel 2017. È arrivato su iPad con il chip A12 e sul Mac con il chip M1.
L’elenco Apple dei computer Mac con Apple silicon include il MacBook Air con M1 del 2020 e ogni MacBook Air dal 2022 in poi, il MacBook Pro da 13 pollici con M1 del 2020 e ogni MacBook Pro dal 2021 in poi, Mac mini dal 2020 in poi, iMac dal 2021 in poi, Mac Studio dal 2022 in poi e Mac Pro del 2023. In quegli anni si vendevano ancora alcuni modelli Intel, quindi controlla Informazioni su questo Mac invece di basarti solo sull’anno.
Perché alcune app usano il Neural Engine e altre no?
Un’app non comunica direttamente con il Neural Engine. Passa un modello a Core ML, il framework di machine learning di Apple, e Apple dice che Core ML combina CPU, GPU e Neural Engine nel piano di esecuzione più efficace per il dispositivo. Le parti di un modello che non si adattano al Neural Engine vengono eseguite altrove.
Il modo in cui il modello è scritto decide quanta parte finisce sul Neural Engine. In un esempio pubblicato, gli ingegneri di Apple hanno ristrutturato un modello di testo per il Neural Engine e lo hanno visto girare su iPhone 13 fino a 10 volte più veloce, con un picco di memoria 14 volte più basso, rispetto alla versione non ottimizzata. Proprio per questo lo stesso modello può essere veloce in un’app e lento in un’altra.
Le domande più frequenti.
Cosa fa il Neural Engine per la dettatura?
Esegue il modello di riconoscimento vocale in tempo reale con pochissima energia, così uno strumento di dettatura locale può trascrivere di continuo senza scaldare il computer né scaricare la batteria. È per questo che la dettatura locale sembra non costare fatica su Apple silicon ed è lenta sui Mac più vecchi.
Mi serve Apple silicon per la dettatura locale?
Perché funzioni bene, sì. Tecnicamente i modelli possono girare su una CPU Intel, ma lentamente. Per questo la maggior parte degli strumenti di dettatura sul dispositivo per Mac richiede un M1 o successivo.
Il mio Mac ha un Neural Engine?
Sì, se ha Apple silicon. Scegli menu Apple → Informazioni su questo Mac: una riga chiamata Chip indica Apple silicon, e una riga chiamata Processore con un nome Intel indica che non c’è un Neural Engine.
Quando è stato introdotto il Neural Engine di Apple?
Apple dice che il primo Neural Engine è arrivato nel 2017 con il chip A11 di iPhone X. Sul Mac è arrivato con il chip M1.
Il Neural Engine è la stessa cosa della GPU?
No. Sono parti separate di un chip Apple silicon. Core ML può distribuire un modello tra CPU, GPU e Neural Engine.
