Latencia
También: latencia al soltar la tecla
Actualizado el
Definición
En el dictado, la latencia es el tiempo que pasa entre el final de lo que dices y la aparición del texto terminado en el cursor. Es la cifra que decide si una herramienta parece instantánea o parece que estás esperando.
Mídela desde el momento en que sueltas la tecla, porque es desde ese momento cuando esperas. Cuenta todo lo que pasa después de soltarla: terminar de reconocer los últimos cientos de milisegundos de audio, la pasada de formato y la inserción en la app. A una herramienta que reconoce en directo solo le queda terminar el final; a una que trabaja por lotes le queda procesar toda la frase, así que su latencia crece con cada segundo que hablaste.
Por debajo de un segundo, más o menos, la mayoría de la gente deja de notarlo. Hacia los dos o tres segundos, empieza a mirar la pantalla y luego la herramienta. Más allá, el dictado deja de ser una forma de escribir y se convierte en una forma de hacer una grabación que luego tienes que esperar.
En qué se va el tiempo
La cola del reconocimiento: cuánto audio queda por procesar al soltar la tecla, algo que el streaming reduce casi a nada. El formato: una pasada de un modelo de lenguaje sobre la transcripción, normalmente el mayor coste individual en una herramienta local, y la razón por la que una herramienta rápida mantiene ese modelo pequeño y le da un presupuesto de tiempo estricto. La inserción: escribir el resultado en la app activa a través de la capa de accesibilidad, normalmente unas decenas de milisegundos. La red, en las herramientas en la nube: un viaje de ida y vuelta más la cola en un servidor que no controlas, por eso la latencia en la nube va de rápida a inutilizable según la hora.
Latencia o calidad: hay que elegir de verdad
Una pasada de formato cuesta tiempo, y saltársela da la herramienta más rápida posible. También da una herramienta que te entrega una transcripción para arreglar a mano, lo que cuesta más tiempo del que ahorró. El buen diseño te deja elegir: un modo literal o con una limpieza ligera que llega casi al instante, y un modo con formato completo que tarda un poco más y no necesita arreglos. Lo que una herramienta nunca debería hacer es dejar que un modelo lento retenga el texto como rehén; si la pasada se retrasa, la transcripción sin más debería llegar de todos modos.
Cómo medir la latencia del dictado en tu Mac
No necesitas herramientas especiales. Una grabación de pantalla que también capte tu micrófono pone tu voz y la pantalla en la misma línea de tiempo, así que puedes leer el retraso directamente al reproducirla.
Mide varios dictados de distinta longitud. Una sola medida dice poco, y la diferencia entre un dictado corto y uno largo te dice si la espera crece según lo que hablas.
- Abre la app en la que sueles dictar y coloca el cursor en un campo de texto.
- Pulsa Mayúsculas-⌘-5 para abrir Captura de pantalla y elige grabar toda la pantalla o una parte.
- Haz clic en Opciones y elige tu micrófono, para que la grabación incluya tu voz.
- Empieza a grabar, dicta una frase corta y otra larga, y deja unos segundos entre ellas.
- Haz clic en el botón de detener de la barra de menús. La grabación se guarda como un archivo .mov cuyo nombre empieza por Grabación de pantalla.
- Reproduce el archivo y anota dos momentos de cada dictado: cuando tu voz se detiene y cuando el texto terminado está en pantalla. El intervalo entre ellos es la latencia.
- Compara el dictado corto con el largo. Si el largo tarda claramente más, la herramienta procesa por lotes.
Por qué un modelo más grande implica más espera
El tamaño del modelo es el intercambio más directo entre precisión y velocidad. El proyecto Whisper publica velocidades relativas de sus propios modelos: tomando el modelo large como 1x, tiny va a unas 10x, base a unas 7x, small a unas 4x, medium a unas 2x y turbo a unas 8x. Esas cifras son relativas entre sí, y la velocidad real depende de tu hardware.
La velocidad sola no hace que un modelo funcione en directo. Whisper lee el audio a través de una ventana deslizante de 30 segundos, y su ficha del modelo indica que los modelos no se pueden usar para transcripción en tiempo real tal cual vienen. Una herramienta de dictado construida sobre un modelo así tiene que añadir su propio streaming o troceado, y lo bien que lo haga decide el retraso que notas.
Cómo cronometrar un modelo de voz en Terminal
Si quieres ver el coste puro del reconocimiento sin ninguna app alrededor, puedes cronometrar la herramienta de línea de comandos de Whisper, de código abierto, con una grabación de tu propia voz. Esto mide el modelo en tu Mac y nada más: sin formato, sin inserción, sin red.
La cifra no es la latencia de ninguna app de dictado, porque las apps procesan el audio mientras hablas. Sirve para comparar tamaños de modelo en tu propio hardware.
- Instala la dependencia de audio con: brew install ffmpeg
- Instala Whisper con: pip install -U openai-whisper
- Grábate hablando unos diez segundos y guarda el archivo, por ejemplo como clip.wav.
- Ejecuta: time whisper clip.wav --model tiny y anota el tiempo real (real) que muestra Terminal.
- Ejecuta: time whisper clip.wav --model turbo y anota de nuevo el tiempo.
- Ejecuta cada comando una segunda vez y compara esos tiempos, para no contar la preparación que solo ocurre la primera vez.
Preguntas que hace la gente.
¿Cuál es una buena latencia para el dictado?
Menos de un segundo desde que sueltas la tecla hasta el texto terminado se siente instantáneo. De uno a dos segundos es aceptable. Más allá, la espera se convierte en la experiencia. El reconocimiento en streaming y un modelo de formato pequeño y con tiempo limitado son la forma en que las herramientas locales bajan del segundo.
¿Por qué mi herramienta de dictado va más lenta cuanto más hablo?
Porque reconoce por lotes: no se procesa nada hasta que paras, así que una grabación más larga significa una espera más larga. Las herramientas con streaming procesan mientras hablas y mantienen el retraso constante.
¿El dictado en la nube es más lento que el local?
A menudo, y de forma menos predecible. Un viaje de ida y vuelta a un servidor añade tiempo a cada dictado y varía con tu conexión y con su carga. Las herramientas locales tienen un coste fijo que solo depende de tu Mac.
¿Cómo pruebo lo rápida que es mi app de dictado?
Graba la pantalla con el micrófono activado usando Mayúsculas-⌘-5, dicta una frase y reproduce la grabación. El tiempo entre el momento en que tu voz se detiene y el momento en que aparece el texto terminado es la latencia.
¿Puede Whisper transcribir en tiempo real?
No por sí solo. La ficha del modelo Whisper dice que los modelos no se pueden usar para transcripción en tiempo real tal cual vienen, y el código estándar procesa el audio en ventanas de 30 segundos. Las apps que parecen funcionar en directo con Whisper han añadido su propia capa de streaming.
¿Un modelo de voz más pequeño hace más rápido el dictado?
Sí, a costa de precisión. El proyecto Whisper indica que su modelo tiny es unas 10 veces más rápido que su modelo large, y su modelo turbo unas 8 veces más rápido.
