Factor de tiempo real
También: RTF, RTFx
Publicado el
Definición
El factor de tiempo real (RTF) es el tiempo que tarda un sistema de reconocimiento de voz en procesar un audio, dividido entre la duración de ese audio. Un RTF de 0,5 significa que un minuto de voz se transcribe en 30 segundos; por debajo de 1 es más rápido que el tiempo real.
Es la forma estándar de expresar la velocidad de un modelo de voz, sin importar cuánto durara la grabación. La definición se remonta a las evaluaciones del NIST, el organismo de normalización de Estados Unidos, que lo llamaba factor de velocidad: el tiempo total de procesamiento dividido entre la duración de la señal de origen.
Su inverso, el RTFx, se ha convertido en la cifra más habitual, porque más alto es mejor y los números se leen más fácilmente. Los dos describen lo mismo.
La fórmula
El RTF es el tiempo de procesamiento dividido entre la duración del audio. Si 10 segundos de audio tardan 2 segundos en transcribirse, el RTF es 0,2.
El RTFx le da la vuelta: la duración del audio dividida entre el tiempo de procesamiento. El mismo ejemplo da un RTFx de 5. El Open ASR Leaderboard, que publica el RTFx de los modelos que clasifica, explica que un RTFx de 1 significa que un sistema procesa la voz tan rápido como se habla, y un RTFx de 2, que tarda la mitad.
Cómo leer una cifra
Comprueba cuál de los dos estás viendo, porque apuntan en direcciones opuestas.
- RTF: más bajo es más rápido. Por debajo de 1 sigue el ritmo de la voz en directo; por encima de 1 se queda atrás.
- RTFx: más alto es más rápido. Por encima de 1 sigue el ritmo de la voz en directo.
- Un RTF de 0,01 y un RTFx de 100 son la misma velocidad: una hora de audio en 36 segundos.
Por qué las cifras publicadas son tan altas
Las fichas de los modelos suelen citar un RTFx de cientos o miles. Se miden en una tarjeta gráfica de centro de datos, con muchas grabaciones procesadas a la vez. La ficha de un modelo, que cita una cifra superior a 3.000, añade que el rendimiento puede variar según la duración del audio y el tamaño del lote.
Un portátil que transcribe una sola voz no se acerca a eso, y no le hace falta. La cifra sirve para comparar modelos entre sí, no para predecir lo que vas a ver.
Lo que no te dice
El RTF es una media sobre toda una grabación. No dice nada de cuándo aparece la primera palabra ni de cuánto esperas después de dejar de hablar, y en el dictado eso es lo que notas.
Un modelo con un RTF excelente que espera a tener un bloque entero de audio antes de escribir puede parecer más lento que un modelo en streaming con uno peor. Para el uso en directo, la medida por la que hay que preguntar es la latencia, y el RTF es la comprobación de que el modelo puede seguir el ritmo.
Qué lo hace variar
El mismo modelo da cifras distintas en condiciones distintas.
- El hardware, y si el modelo se ejecuta en la CPU, en el chip gráfico o en el Neural Engine.
- El tamaño del modelo, y si se ha cuantizado.
- La duración del audio. Los clips muy cortos llevan un coste fijo de arranque que hace que la proporción parezca peor.
- El procesamiento por lotes. Procesar muchas grabaciones a la vez dispara el RTFx en un servidor.
Preguntas que hace la gente.
¿Qué es un buen factor de tiempo real?
Para el dictado en directo, cualquier valor claramente por debajo de 1, para que el modelo vaya por delante de tu voz. Para transcribir archivos, más bajo significa simplemente menos espera.
¿Qué diferencia hay entre RTF y RTFx?
Son inversos. El RTF es el tiempo de procesamiento dividido entre la duración del audio, así que más bajo es más rápido. El RTFx es la duración del audio dividida entre el tiempo de procesamiento, así que más alto es más rápido.
¿Cómo se calcula el factor de tiempo real?
Divide el tiempo que se tarda en transcribir entre la duración del audio. Diez segundos de audio transcritos en dos segundos son un RTF de 0,2, o un RTFx de 5.
¿Un factor de tiempo real bajo significa una latencia baja?
No necesariamente. El RTF es una media sobre la grabación. Un modelo puede tener un RTF bajo y aun así hacerte esperar, si lee un bloque entero antes de escribir nada.
¿Qué significa un RTF de 1?
El sistema tarda en transcribir el audio exactamente lo mismo que dura el audio. Sigue el ritmo de la voz en directo, pero justo.
¿Por qué mi velocidad es más baja que la cifra de la ficha del modelo?
Las cifras publicadas suelen medirse en una tarjeta gráfica de servidor con muchas grabaciones en un lote. Una sola grabación en un portátil es otra prueba.
