Glossário / Como ele ouve você
Neural Engine
Também: ANE
Atualizado em
Definição
O Neural Engine é a parte do chip Apple silicon, ao lado da CPU e da GPU, feita para rodar modelos de aprendizado de máquina com eficiência. Com ele, um notebook transcreve sem parar, sem esquentar, fazer barulho ou esgotar a bateria.
Todo Mac com chip da série M tem um. Ele é um conjunto de núcleos especializados na aritmética de matrizes de que as redes neurais são feitas, e faz essas contas com uma fração da energia que uma CPU ou GPU precisaria. O reconhecimento de fala é exatamente o tipo de carga constante e sempre ativa para a qual o Neural Engine foi projetado: um modelo que precisa acompanhar o áudio em tempo real, durante todo o tempo em que você fala, sem deixar o resto da máquina lento.
Nem todo modelo cabe nele. O Neural Engine tem suas próprias restrições de formato e de precisão numérica, e um modelo precisa ser convertido para ele. Essa engenharia é uma das diferenças reais entre as ferramentas de ditado locais que parecem não exigir esforço nenhum e as que rodam o mesmo modelo na GPU e esquentam seu colo.
Neural Engine, GPU e CPU
A CPU roda qualquer coisa, mas é a mais lenta e a que mais consome energia em cálculos de redes neurais. A GPU é rápida e flexível, e é onde roda a maioria dos modelos de linguagem locais, por meio de frameworks como MLX ou Metal. O Neural Engine é o mais eficiente dos três para os modelos que se encaixam nas suas restrições, e os modelos de reconhecimento de fala se encaixam bem. Uma ferramenta de ditado local bem construída coloca cada modelo onde ele roda melhor e deixa a CPU livre para o app em que você está digitando.
Por que ele é um requisito
Ditado local num Mac com Intel significa rodar o modelo numa CPU que não foi feita para isso. Funciona, devagar, e esse é um dos principais motivos de as ferramentas que rodam no dispositivo exigirem no mínimo Apple silicon. Num M1 ou mais recente, os mesmos modelos rodam em tempo real sem a máquina quase perceber, e essa é a diferença entre uma ferramenta que você deixa ligada o dia todo e uma que você só liga em ocasiões especiais.
Como verificar se o seu Mac tem Neural Engine
No Mac, o Neural Engine chegou com o chip M1. Então a pergunta, na verdade, é se o seu Mac tem Apple silicon, e o macOS mostra isso em uma janela.
- Clique no menu Apple no canto da tela.
- Escolha Sobre Este Mac.
- Leia a janela que abrir. Um Mac com Apple silicon mostra um item chamado Chip, seguido do nome do chip.
- Se você vir um item chamado Processador seguido do nome de um processador Intel, o Mac é baseado em Intel e não tem Neural Engine.
Quando os Macs ganharam um Neural Engine?
O Neural Engine começou no iPhone. A Apple diz que a primeira geração saiu no chip A11 do iPhone X, em 2017. Ele chegou ao iPad com o chip A12 e ao Mac com o chip M1.
A lista da Apple de computadores Mac com Apple silicon inclui o MacBook Air com M1 de 2020 e todos os MacBook Air de 2022 ou posteriores, o MacBook Pro de 13 polegadas com M1 de 2020 e todos os MacBook Pro de 2021 ou posteriores, o Mac mini de 2020 ou posterior, o iMac de 2021 ou posterior, o Mac Studio de 2022 ou posterior e o Mac Pro de 2023. Alguns modelos Intel ainda eram vendidos nesses anos, então confira em Sobre Este Mac em vez de se guiar só pelo ano.
Por que alguns apps usam o Neural Engine e outros não?
Um app não fala diretamente com o Neural Engine. Ele entrega um modelo ao Core ML, o framework de aprendizado de máquina da Apple, e a Apple diz que o Core ML combina CPU, GPU e Neural Engine no plano de execução mais eficaz para o dispositivo. As partes de um modelo que não se adaptam ao Neural Engine rodam em outro lugar.
A forma como o modelo é escrito decide quanto dele vai parar no Neural Engine. Em um exemplo publicado, engenheiros da Apple reestruturaram um modelo de texto para o Neural Engine e relataram que ele rodou até 10 vezes mais rápido, com 14 vezes menos pico de memória, no iPhone 13 em comparação com a versão não otimizada. É exatamente por isso que o mesmo modelo pode ser rápido em um app e lento em outro.
Perguntas que as pessoas fazem.
O que o Neural Engine faz pelo ditado?
Ele roda o modelo de reconhecimento de fala em tempo real com pouquíssima energia, então uma ferramenta de ditado local consegue transcrever sem parar sem esquentar a máquina nem gastar a bateria. É por isso que o ditado local parece não exigir esforço nenhum no Apple silicon e é lento nos Macs mais antigos.
Preciso de Apple silicon para ditado local?
Para a experiência ser boa, sim. Tecnicamente, os modelos podem rodar numa CPU Intel, mas devagar. A maioria das ferramentas de ditado para Mac que rodam no dispositivo exige um M1 ou mais recente por esse motivo.
Meu Mac tem Neural Engine?
Tem, se tiver Apple silicon. Escolha menu Apple → Sobre Este Mac: uma linha chamada Chip significa Apple silicon, e uma linha chamada Processador com um nome Intel significa que não há Neural Engine.
Quando o Neural Engine da Apple foi lançado?
A Apple diz que o primeiro Neural Engine saiu em 2017, como parte do chip A11 do iPhone X. Ele chegou ao Mac com o chip M1.
O Neural Engine é a mesma coisa que a GPU?
Não. São partes separadas de um chip Apple silicon. O Core ML pode distribuir um modelo entre a CPU, a GPU e o Neural Engine.
