Glossário / Como ele ouve você
Fator de tempo real
Também: RTF, RTFx
Publicado em
Definição
O fator de tempo real (RTF) é o tempo que o reconhecimento de fala leva para processar um áudio, dividido pela duração dele. RTF de 0,5: um minuto de fala transcrito em 30 segundos. Abaixo de 1, é mais rápido que o tempo real.
É a forma padrão de dizer quão rápido é um modelo de fala, independentemente da duração da gravação. A definição vem de avaliações feitas pelo NIST, o órgão de padrões dos Estados Unidos, que o chamava de fator de velocidade: o tempo total de processamento dividido pela duração do sinal de origem.
O inverso dele, o RTFx, virou o número mais comum, porque quanto maior, melhor, e os números são mais fáceis de ler. Os dois descrevem a mesma coisa.
A fórmula
O RTF é o tempo de processamento dividido pela duração do áudio. Se 10 segundos de áudio levam 2 segundos para ser transcritos, o RTF é 0,2.
O RTFx inverte a conta: duração do áudio dividida pelo tempo de processamento. O mesmo exemplo dá um RTFx de 5. O Open ASR Leaderboard, que publica o RTFx dos modelos que classifica, explica que um RTFx de 1 significa que o sistema processa a fala na mesma velocidade em que ela é falada, e um RTFx de 2 significa que ele leva metade do tempo.
Como ler um número
Confira qual dos dois você está vendo, porque eles apontam em direções opostas.
- RTF: quanto menor, mais rápido. Abaixo de 1, acompanha a fala ao vivo; acima de 1, fica para trás.
- RTFx: quanto maior, mais rápido. Acima de 1, acompanha a fala ao vivo.
- Um RTF de 0,01 e um RTFx de 100 são a mesma velocidade: uma hora de áudio em 36 segundos.
Por que os números publicados são tão altos
Os model cards muitas vezes citam um RTFx na casa das centenas ou dos milhares. Eles são medidos numa placa de vídeo de data center, com muitas gravações processadas ao mesmo tempo. O model card de um modelo, ao citar um número acima de 3.000, acrescenta que o desempenho pode variar conforme a duração do áudio e o tamanho do lote.
Um notebook transcrevendo uma voz não chega nem perto disso, e nem precisa. O número é útil para comparar modelos entre si, não para prever o que você vai ver.
O que ele não diz
O RTF é uma média sobre a gravação inteira. Ele não diz nada sobre quando a primeira palavra aparece, nem sobre quanto você espera depois de parar de falar, e no ditado é isso que você sente.
Um modelo com um RTF excelente que espera um trecho inteiro de áudio antes de escrever pode parecer mais lento que um modelo de streaming com um RTF pior. Para uso ao vivo, a latência é a medida que importa perguntar, e o RTF é a verificação de que o modelo consegue acompanhar.
O que o faz variar
O mesmo modelo dá números diferentes em condições diferentes.
- O hardware, e se o modelo roda na CPU, no chip gráfico ou no Neural Engine.
- O tamanho do modelo, e se ele foi quantizado.
- A duração do áudio. Clipes muito curtos carregam um custo fixo de inicialização que faz a proporção parecer pior.
- Processamento em lote. Processar muitas gravações ao mesmo tempo aumenta muito o RTFx num servidor.
Perguntas que as pessoas fazem.
Qual é um bom fator de tempo real?
Para ditado ao vivo, qualquer valor bem abaixo de 1, para que o modelo fique à frente da sua fala. Para transcrever arquivos, menor significa simplesmente menos espera.
Qual é a diferença entre RTF e RTFx?
Eles são inversos. O RTF é o tempo de processamento dividido pela duração do áudio, então menor é mais rápido. O RTFx é a duração do áudio dividida pelo tempo de processamento, então maior é mais rápido.
Como calcular o fator de tempo real?
Divida o tempo levado para transcrever pela duração do áudio. Dez segundos de áudio transcritos em dois segundos dão um RTF de 0,2, ou um RTFx de 5.
Um fator de tempo real baixo significa latência baixa?
Não necessariamente. O RTF é uma média sobre a gravação. Um modelo pode ter um RTF baixo e ainda assim fazer você esperar, se ler um trecho inteiro antes de escrever qualquer coisa.
O que significa um RTF de 1?
O sistema leva exatamente o mesmo tempo para transcrever o áudio que o áudio dura. Ele mal consegue acompanhar a fala ao vivo.
Por que minha velocidade é menor que o número do model card?
Os números publicados costumam ser medidos numa placa de vídeo de servidor, com muitas gravações em lote. Uma gravação num notebook é outro teste.
