Neural Engine
別名：ANE
更新日：
定義
Neural Engineは、Apple siliconチップの中で、CPUやGPUと並んで、機械学習モデルを効率よく動かすために作られた部分です。ノートパソコンが熱やファンの音、バッテリー切れなしに音声認識を動かし続けられるのは、このおかげです。
MシリーズのMacにはすべて搭載されています。ニューラルネットワークを構成する行列演算に特化したコアの集まりで、CPUやGPUが必要とする電力のごく一部でその演算を実行します。音声認識は、まさにNeural Engineが想定している、安定して常時動き続ける処理です。話している限りずっと音声にリアルタイムで追いつき、しかもマシンのほかの部分を重くしてはいけないモデルです。
どんなモデルでも載るわけではありません。Neural Engineにはモデルの形や精度に独自の制約があり、モデルはそれに合わせて変換する必要があります。この技術的な作業が、軽快に感じられるローカル音声入力ツールと、同じモデルをGPUで動かして膝の上を熱くするツールとの、本当の違いの1つです。
Neural Engine、GPU、CPU
CPUは何でも動かせますが、ニューラルネットワークの計算ではいちばん遅く、電力も多く消費します。GPUは速く柔軟で、ローカルの言語モデルの多くは、MLXやMetalなどのフレームワークを通じてGPUで動きます。Neural Engineは、その制約に合うモデルなら3つの中でいちばん効率的で、音声認識モデルはその制約によく合います。よくできたローカル音声入力ツールは、それぞれのモデルをいちばん適した場所で動かし、入力先のアプリのためにCPUを空けておきます。
必須条件である理由
IntelのMacでのローカル音声入力は、そのために作られていないCPUでモデルを動かすことになります。動きはしますが遅く、デバイス上で動くツールがApple siliconを最低条件にしている大きな理由です。M1以降なら同じモデルがリアルタイムで動き、マシンにはほとんど負荷がかかりません。それが、一日中オンにしておけるツールと、特別なときだけオンにするツールとの違いです。
MacにNeural Engineがあるかを確認する方法
MacではM1チップからNeural Engineが搭載されています。つまり、実際に確かめるのはMacがApple siliconを搭載しているかどうかで、macOSなら1つのウインドウでわかります。
- 画面の隅にあるアップルメニューをクリックします。
- 「このMacについて」を選択します。
- 開いたウインドウを確認します。Apple siliconを搭載したMacでは、「チップ」という項目のあとにチップの名前が表示されます。
- 「プロセッサ」という項目のあとにIntelプロセッサの名前が表示される場合、そのMacはIntelベースで、Neural Engineはありません。
MacにNeural Engineが搭載されたのはいつですか？
Neural EngineはiPhoneから始まりました。Appleによると、第1世代は2017年のiPhone XのA11チップに搭載されました。iPadにはA12チップで、MacにはM1チップで搭載されました。
AppleのApple silicon搭載Macの一覧には、2020年のM1搭載MacBook Airと2022年以降のすべてのMacBook Air、2020年のM1搭載13インチMacBook Proと2021年以降のすべてのMacBook Pro、2020年以降のMac mini、2021年以降のiMac、2022年以降のMac Studio、2023年のMac Proが含まれます。これらの年にもIntelモデルが販売されていたものがあるので、年だけで判断せず「このMacについて」で確認してください。
Neural Engineを使うアプリと使わないアプリがあるのはなぜですか？
アプリはNeural Engineと直接やり取りするわけではありません。AppleのマシンラーニングフレームワークであるCore MLにモデルを渡すと、AppleによればCore MLがCPU、GPU、Neural Engineを組み合わせて、そのデバイスで最も効率のよい実行計画を立てます。モデルのうちNeural Engineに向かない部分は、ほかの場所で実行されます。
モデルの作り方によって、そのどれだけがNeural Engineで動くかが決まります。公開されている例では、AppleのエンジニアがテキストモデルをNeural Engine向けに作り直し、iPhone 13で最適化前のものと比べて最大10倍速く、ピークメモリは14分の1になったと報告しています。同じモデルでも、あるアプリでは速く、別のアプリでは遅いことがあるのは、まさにこのためです。
よくある質問。
音声入力でNeural Engineは何をしますか？
音声認識モデルを、ごく低い電力でリアルタイムに動かします。そのため、ローカルの音声入力ツールは、マシンを熱くしたりバッテリーを消耗させたりせずに、文字起こしを続けられます。Apple siliconではローカル音声入力が軽快に感じられ、古いMacでは重く感じられるのはこのためです。
ローカル音声入力にはApple siliconが必要ですか？
快適に使うなら、必要です。モデルは技術的にはIntelのCPUでも動きますが、遅くなります。そのため、デバイス上で動くMac音声入力ツールの多くはM1以降を必要とします。
私のMacにはNeural Engineがありますか？
Apple siliconを搭載していればあります。アップルメニュー→「このMacについて」と選択し、「チップ」という行があればApple silicon、「プロセッサ」という行にIntelの名前があればNeural Engineはありません。
Apple Neural Engineはいつ登場しましたか？
Appleによると、最初のNeural Engineは2017年、iPhone XのA11チップの一部として搭載されました。MacにはM1チップで搭載されました。
Neural EngineはGPUと同じものですか？
いいえ。どちらもApple siliconチップの中の別々の部分です。Core MLは1つのモデルをCPU、GPU、Neural Engineに分散させることができます。
