Neural Engine
Auch: ANE
Aktualisiert:
Definition
Die Neural Engine ist der Teil eines Chips mit Apple silicon, der dafür gebaut ist, Machine-Learning-Modelle effizient auszuführen, neben CPU und GPU. Ihretwegen kann ein Laptop ständig Spracherkennung ausführen, ohne heiß zu werden, ohne Lüftergeräusch und ohne leeren Akku.
Jeder Mac mit M-Chip hat eine. Sie besteht aus Kernen, die auf die Matrixrechnungen spezialisiert sind, aus denen neuronale Netze bestehen, und sie erledigt diese Rechnungen mit einem Bruchteil der Energie, die eine CPU oder GPU bräuchte. Spracherkennung ist genau die Art gleichmäßiger, ständig laufender Arbeit, für die die Neural Engine entworfen wurde: ein Modell, das in Echtzeit mit dem Audio Schritt halten muss, so lange du sprichst, ohne den Rest des Rechners träge zu machen.
Nicht jedes Modell passt. Die Neural Engine hat eigene Vorgaben für Modellstruktur und Rechengenauigkeit, und ein Modell muss für sie konvertiert werden. Diese Ingenieursarbeit ist einer der echten Unterschiede zwischen lokalen Diktier-Tools, die sich mühelos anfühlen, und solchen, die dasselbe Modell auf der GPU laufen lassen und dir den Schoß wärmen.
Neural Engine, GPU und CPU
Die CPU kann alles ausführen, ist bei der Mathematik neuronaler Netze aber am langsamsten und am hungrigsten. Die GPU ist schnell und flexibel, und dort laufen die meisten lokalen Sprachmodelle, über Frameworks wie MLX oder Metal. Die Neural Engine ist die effizienteste der drei für Modelle, die ihre Vorgaben erfüllen, und Spracherkennungsmodelle erfüllen sie gut. Ein gut gebautes lokales Diktier-Tool legt jedes Modell dorthin, wo es am besten läuft, und lässt die CPU für die App frei, in die du tippst.
Warum sie Voraussetzung ist
Lokales Diktieren auf einem Intel-Mac bedeutet, das Modell auf einer CPU auszuführen, die nicht dafür gebaut ist. Das funktioniert, langsam, und ist ein großer Grund, warum Tools, die auf dem Gerät arbeiten, Apple silicon als Mindestanforderung setzen. Auf einem M1 oder neuer laufen dieselben Modelle in Echtzeit, ohne dass der Rechner es groß merkt. Das ist der Unterschied zwischen einem Tool, das du den ganzen Tag laufen lässt, und einem, das du nur zu besonderen Anlässen einschaltest.
So prüfst du, ob dein Mac eine Neural Engine hat
Auf den Mac kam die Neural Engine mit dem M1-Chip. Die Frage ist also eigentlich, ob dein Mac Apple silicon hat, und macOS sagt es dir in einem einzigen Fenster.
- Klicke auf das Menü „Apple“ in der Ecke des Bildschirms.
- Wähle „Über diesen Mac“.
- Lies das Fenster, das sich öffnet. Ein Mac mit Apple silicon zeigt einen Eintrag „Chip“, gefolgt vom Namen des Chips.
- Siehst du einen Eintrag „Prozessor“, gefolgt vom Namen eines Intel-Prozessors, ist der Mac Intel-basiert und hat keine Neural Engine.
Seit wann haben Macs eine Neural Engine?
Die Neural Engine begann auf dem iPhone. Laut Apple kam die erste Generation 2017 im A11-Chip des iPhone X. Aufs iPad kam sie mit dem A12-Chip und auf den Mac mit dem M1-Chip.
Apples Liste der Mac-Computer mit Apple silicon umfasst das MacBook Air mit M1 von 2020 und jedes MacBook Air ab 2022, das 13-Zoll-MacBook Pro mit M1 von 2020 und jedes MacBook Pro ab 2021, den Mac mini ab 2020, den iMac ab 2021, den Mac Studio ab 2022 und den Mac Pro von 2023. In diesen Jahren wurden noch einige Intel-Modelle verkauft, prüfe also „Über diesen Mac“, statt dich nur nach dem Jahr zu richten.
Warum nutzen manche Apps die Neural Engine und andere nicht?
Eine App spricht die Neural Engine nicht direkt an. Sie übergibt ein Modell an Core ML, Apples Framework für maschinelles Lernen, und laut Apple kombiniert Core ML CPU, GPU und Neural Engine zum effektivsten Ausführungsplan für das Gerät. Teile eines Modells, die nicht zur Neural Engine passen, laufen woanders.
Wie das Modell geschrieben ist, entscheidet, wie viel davon auf der Neural Engine landet. In einem veröffentlichten Beispiel haben Apple-Ingenieure ein Textmodell für die Neural Engine umgebaut und berichtet, dass es auf dem iPhone 13 bis zu 10-mal schneller lief und 14-mal weniger Spitzenspeicher brauchte als die nicht optimierte Version. Genau deshalb kann dasselbe Modell in einer App schnell und in einer anderen langsam sein.
Fragen, die Leute stellen.
Was macht die Neural Engine beim Diktieren?
Sie führt das Spracherkennungsmodell in Echtzeit mit sehr wenig Energie aus. So kann ein lokales Diktier-Tool ständig transkribieren, ohne den Rechner aufzuheizen oder den Akku zu leeren. Deshalb fühlt sich lokales Diktieren auf Apple silicon mühelos an und auf älteren Macs träge.
Brauche ich Apple silicon für lokales Diktieren?
Damit es sich gut anfühlt, ja. Technisch können die Modelle auf einer Intel-CPU laufen, aber langsam. Die meisten Diktier-Tools für den Mac, die auf dem Gerät arbeiten, setzen deshalb einen M1 oder neuer voraus.
Hat mein Mac eine Neural Engine?
Ja, wenn er Apple silicon hat. Wähle Menü „Apple“ → „Über diesen Mac“: Eine Zeile „Chip“ bedeutet Apple silicon, und eine Zeile „Prozessor“ mit einem Intel-Namen bedeutet keine Neural Engine.
Wann wurde die Apple Neural Engine eingeführt?
Laut Apple kam die erste Neural Engine 2017 als Teil des A11-Chips im iPhone X. Auf den Mac kam sie mit dem M1-Chip.
Ist die Neural Engine dasselbe wie die GPU?
Nein. Es sind getrennte Teile eines Apple-silicon-Chips. Core ML kann ein Modell auf CPU, GPU und Neural Engine verteilen.
