Neural Engine
又称：ANE
更新于
定义
神经网络引擎是Apple芯片中专为高效运行机器学习模型而设计的部分，与CPU和GPU并列。正因为有它，笔记本电脑才能持续运行语音识别，而不会发热、风扇作响或耗尽电池。
每一台M系列Mac都有神经网络引擎。它是一组专门用于矩阵运算的核心，而神经网络正是由矩阵运算构成的；它进行这些运算所需的功耗，只是CPU或GPU的一小部分。语音识别正是神经网络引擎所针对的那种稳定、持续运行的工作负载：模型必须实时跟上音频，在你说话的整个过程中都是如此，同时不能让机器的其他部分变慢。
并不是每个模型都适合。神经网络引擎对模型的结构和精度有自己的限制，模型必须专门为它进行转换。这项工程工作是本地听写工具之间真正的差别之一：有的用起来毫不费力，有的在GPU上运行同样的模型，把你的腿都捂热了。
神经网络引擎、GPU和CPU
CPU什么都能运行，但做神经网络运算时最慢、也最耗电。GPU速度快、灵活，大多数本地语言模型都通过MLX或Metal这样的框架在上面运行。对于符合其限制的模型，神经网络引擎是三者中效率最高的，而语音识别模型正好很适合它。一个做得好的本地听写工具，会把每个模型放在它运行得最好的地方，并把CPU留给你正在输入的App。
为什么这是硬性要求
在搭载Intel处理器的Mac上进行本地听写，意味着要在一个并非为此打造的CPU上运行模型。能用，但很慢，这在很大程度上是设备端工具把Apple芯片定为最低要求的原因。在M1或更新机型上，同样的模型可以实时运行，机器几乎感觉不到负担。这就是一个整天开着的工具，和一个只在特殊场合才打开的工具之间的区别。
如何检查你的Mac是否有神经网络引擎
在Mac上，神经网络引擎随M1芯片一同出现。所以问题实际上是你的Mac是否搭载Apple芯片，而macOS在一个窗口里就能告诉你。
- 点按屏幕角落的苹果菜单。
- 选取“关于本机”。
- 查看打开的窗口。搭载Apple芯片的Mac会显示一个标有“芯片”的项目，后面是芯片的名称。
- 如果你看到标有“处理器”的项目，后面是Intel处理器的名称，那么这台Mac搭载的是Intel处理器，没有神经网络引擎。
Mac是什么时候有神经网络引擎的？
神经网络引擎最早出现在iPhone上。Apple称，第一代随iPhone X中的A11芯片于2017年推出。之后它随A12芯片来到iPad，随M1芯片来到Mac。
Apple列出的搭载Apple芯片的Mac电脑包括：2020年的M1 MacBook Air及2022年或之后的所有MacBook Air，2020年的13英寸M1 MacBook Pro及2021年或之后的所有MacBook Pro，2020年或之后的Mac mini，2021年或之后的iMac，2022年或之后的Mac Studio，以及2023年的Mac Pro。那些年份里仍有一些Intel机型在售，所以请查看“关于本机”，而不要只看年份。
为什么有些App使用神经网络引擎，有些不用？
App不会直接与神经网络引擎打交道。它把模型交给Apple的机器学习框架Core ML，而Apple称Core ML会把CPU、GPU和神经网络引擎结合起来，为设备制定最有效的执行方案。模型中不适合神经网络引擎的部分会在其他地方运行。
模型的写法决定了它有多少部分落在神经网络引擎上。在一个公开的示例中，Apple工程师为神经网络引擎重构了一个文本模型，并报告称它在iPhone 13上比未优化的版本最多快10倍，峰值内存占用少14倍。正因为如此，同一个模型在一个App里可能很快，在另一个App里却很慢。
大家常问的问题。
神经网络引擎对听写有什么作用？
它以极低的功耗实时运行语音识别模型，所以本地听写工具可以持续转写，而不会让机器发热或耗尽电池。这就是本地听写在Apple芯片上用起来毫不费力、在较旧的Mac上却很迟缓的原因。
本地听写需要Apple芯片吗？
想要用得顺手，是的。技术上模型可以在Intel CPU上运行，但很慢。出于这个原因，大多数设备端Mac听写工具都要求M1或更新机型。
我的Mac有神经网络引擎吗？
如果搭载Apple芯片，就有。选取“苹果菜单 → 关于本机”：标有“芯片”的一行表示Apple芯片，标有“处理器”且后面是Intel名称的一行表示没有神经网络引擎。
Apple神经网络引擎是什么时候推出的？
Apple称，第一个神经网络引擎于2017年作为iPhone X中A11芯片的一部分推出。它随M1芯片来到Mac。
神经网络引擎和GPU是一回事吗？
不是。它们是Apple芯片中相互独立的部分。Core ML可以把一个模型分配到CPU、GPU和神经网络引擎上运行。
