Glossário / Como ele ouve você
Latência
Também: latência ao soltar a tecla
Atualizado em
Definição
No ditado, a latência é o tempo entre o fim da sua fala e o texto pronto aparecendo no cursor. É o número que decide se uma ferramenta parece instantânea ou parece uma espera.
Meça a partir do momento em que você solta a tecla, porque é a partir desse momento que você está esperando. Tudo o que acontece depois de soltar a tecla conta: terminar o reconhecimento das últimas centenas de milissegundos de áudio, a etapa de formatação e a inserção no app. Uma ferramenta que faz o reconhecimento em streaming só precisa terminar o final; uma que processa em lote ainda tem a fala inteira para processar, então a latência dela cresce a cada segundo que você falou.
Com menos de um segundo, a maioria das pessoas deixa de perceber. Com dois ou três segundos, elas começam a olhar para a tela e depois para a ferramenta. Além disso, o ditado deixa de ser uma forma de escrever e vira uma forma de fazer uma gravação e depois esperar por ela.
Para onde vai o tempo
Cauda do reconhecimento: quanto áudio ainda falta processar quando você solta a tecla, algo que o streaming reduz a quase nada. Formatação: uma passada de modelo de linguagem sobre a transcrição, em geral o maior custo isolado numa ferramenta local, e o motivo pelo qual uma ferramenta rápida mantém esse modelo pequeno e lhe dá um limite de tempo rígido. Inserção: digitar o resultado no app em foco pela camada de acessibilidade, normalmente dezenas de milissegundos. Rede, nas ferramentas na nuvem: uma ida e volta, mais a fila num servidor que você não controla, e é por isso que a latência na nuvem vai de rápida a inutilizável conforme a hora do dia.
Latência ou qualidade: a escolha é real
Uma etapa de formatação custa tempo, e pular essa etapa dá a ferramenta mais rápida possível. Também dá uma ferramenta que entrega uma transcrição para você corrigir à mão, o que custa mais tempo do que economizou. O design certo oferece a escolha: um modo literal ou levemente limpo que chega quase na hora, e um modo totalmente formatado que demora um pouco mais e não precisa de correção. O que uma ferramenta nunca deve fazer é deixar um modelo lento prender o texto; se a etapa atrasar, a transcrição simples deve chegar mesmo assim.
Como medir a latência do ditado no seu Mac
Você não precisa de ferramentas especiais. Uma gravação de tela que também capta o microfone coloca a sua voz e a tela na mesma linha do tempo, então dá para ler o atraso direto na reprodução.
Meça vários ditados de tamanhos diferentes. Uma única medição diz pouco, e a diferença entre um ditado curto e um longo mostra se a espera cresce com o tempo que você fala.
- Abra o app em que você normalmente dita e coloque o cursor num campo de texto.
- Pressione Shift + Command + 5 para abrir o app Captura de Tela e escolha gravar a tela inteira ou uma parte dela.
- Clique em Opções e escolha o seu microfone, para que a gravação inclua a sua voz.
- Inicie a gravação e dite uma frase curta e uma longa, com alguns segundos entre elas.
- Clique no botão de parar na barra de menus. A gravação é salva como um arquivo .mov cujo nome começa com Gravação de Tela.
- Reproduza o arquivo e anote dois momentos de cada ditado: quando a sua voz para e quando o texto final aparece na tela. O intervalo entre eles é a latência.
- Compare o ditado curto com o longo. Se o longo demorar visivelmente mais, a ferramenta está processando em lote.
Por que um modelo maior significa uma espera maior
O tamanho do modelo é a troca mais direta entre precisão e velocidade. O projeto Whisper publica velocidades relativas dos seus próprios modelos: tomando o modelo large como 1x, o tiny roda a cerca de 10x, o base a cerca de 7x, o small a cerca de 4x, o medium a cerca de 2x e o turbo a cerca de 8x. Esses números são relativos entre si, e a velocidade real depende do seu hardware.
Velocidade, sozinha, não torna um modelo ao vivo. O Whisper lê o áudio por uma janela deslizante de 30 segundos, e o seu model card afirma que os modelos não podem ser usados para transcrição em tempo real sem adaptações. Uma ferramenta de ditado construída sobre um modelo assim precisa adicionar o próprio streaming ou divisão em blocos, e a qualidade disso decide o atraso que você sente.
Como cronometrar um modelo de fala no Terminal
Se quiser ver o custo bruto do reconhecimento sem nenhum app em volta, você pode cronometrar a ferramenta de linha de comando de código aberto do Whisper numa gravação da sua própria voz. Isso mede o modelo no seu Mac e mais nada: sem formatação, sem inserção, sem rede.
O número não é a latência de nenhum app de ditado, porque os apps processam o áudio enquanto você fala. Ele serve para comparar tamanhos de modelo no seu próprio hardware.
- Instale a dependência de áudio com: brew install ffmpeg
- Instale o Whisper com: pip install -U openai-whisper
- Grave a sua voz por cerca de dez segundos e salve o arquivo, por exemplo como clip.wav.
- Execute: time whisper clip.wav --model tiny e anote o tempo “real” que o Terminal mostra.
- Execute: time whisper clip.wav --model turbo e anote o tempo de novo.
- Execute cada comando uma segunda vez e compare esses tempos, para que a preparação inicial não entre na conta.
Perguntas que as pessoas fazem.
Qual é uma boa latência para ditado?
Menos de um segundo entre soltar a tecla e o texto pronto parece instantâneo. De um a dois segundos é aceitável. Acima disso, a espera vira a experiência. Reconhecimento em streaming e um modelo de formatação pequeno, com limite de tempo, são o que faz as ferramentas locais ficarem abaixo de um segundo.
Por que minha ferramenta de ditado fica mais lenta quanto mais eu falo?
Porque ela reconhece em lote: nada é processado até você parar, então uma gravação mais longa significa uma espera mais longa. As ferramentas com streaming processam enquanto você fala e mantêm o atraso constante.
O ditado na nuvem é mais lento que o local?
Muitas vezes, e de forma menos previsível. Uma ida e volta até um servidor acrescenta tempo a cada ditado e varia com a sua conexão e com a carga deles. As ferramentas locais têm um custo fixo que depende só do seu Mac.
Como testo a velocidade do meu app de ditado?
Grave a tela com o microfone ligado usando Shift + Command + 5, dite uma frase e reproduza a gravação. O tempo entre a sua voz parar e o texto final aparecer é a latência.
O Whisper consegue transcrever em tempo real?
Não sozinho. O model card do Whisper diz que os modelos não podem ser usados para transcrição em tempo real sem adaptações, e o código padrão processa o áudio em janelas de 30 segundos. Os apps que parecem ao vivo com o Whisper adicionaram a própria camada de streaming.
Um modelo de fala menor deixa o ditado mais rápido?
Sim, à custa de precisão. O projeto Whisper lista o seu modelo tiny como cerca de 10 vezes mais rápido que o modelo large, e o modelo turbo como cerca de 8 vezes mais rápido.
