Fattore di tempo reale
Anche: RTF, RTFx
Pubblicato il
Definizione
Il fattore di tempo reale (real-time factor, RTF) è il tempo che un sistema di riconoscimento vocale impiega a elaborare l’audio, diviso per la durata di quell’audio. Un RTF di 0,5 significa che un minuto di parlato viene trascritto in 30 secondi; sotto 1 è più veloce del tempo reale.
È il modo standard per indicare quanto è veloce un modello vocale, indipendentemente dalla durata della registrazione. La definizione risale alle valutazioni condotte dal NIST, l’ente statunitense per gli standard, che lo chiamava speed factor (fattore di velocità): tempo totale di elaborazione diviso per la durata del segnale sorgente.
Il suo inverso, l’RTFx, è diventato il valore più comune, perché più alto è meglio e i numeri sono più facili da leggere. Entrambi descrivono la stessa cosa.
La formula
L’RTF è il tempo di elaborazione diviso per la durata dell’audio. Se 10 secondi di audio richiedono 2 secondi per essere trascritti, l’RTF è 0,2.
L’RTFx lo capovolge: durata dell’audio divisa per il tempo di elaborazione. Lo stesso esempio dà un RTFx di 5. La Open ASR Leaderboard, che pubblica l’RTFx dei modelli che classifica, spiega che un RTFx di 1 significa che un sistema elabora il parlato alla stessa velocità con cui viene pronunciato, e un RTFx di 2 significa che impiega la metà del tempo.
Come leggere un valore
Controlla quale dei due stai guardando, perché vanno in direzioni opposte.
- RTF: più basso è più veloce. Sotto 1 tiene il passo con il parlato dal vivo; sopra 1 resta indietro.
- RTFx: più alto è più veloce. Sopra 1 tiene il passo con il parlato dal vivo.
- Un RTF di 0,01 e un RTFx di 100 sono la stessa velocità: un’ora di audio in 36 secondi.
Perché i valori pubblicati sono così alti
Le schede dei modelli citano spesso un RTFx nell’ordine delle centinaia o delle migliaia. Sono valori misurati su una scheda grafica da data center con molte registrazioni elaborate insieme. La scheda di un modello, che cita un valore superiore a 3.000, aggiunge che le prestazioni possono variare a seconda della durata dell’audio e della dimensione del batch.
Un portatile che trascrive una sola voce non ottiene niente di simile, e non ne ha bisogno. Il valore è utile per confrontare i modelli tra loro, non per prevedere cosa vedrai.
Cosa non ti dice
L’RTF è una media su un’intera registrazione. Non dice nulla su quando compare la prima parola, o su quanto aspetti dopo aver smesso di parlare, e nella dettatura è questo che senti.
Un modello con un RTF eccellente che aspetta un intero blocco di audio prima di scrivere può sembrare più lento di un modello in streaming con un RTF peggiore. Per l’uso dal vivo, la misura da chiedere è la latenza, e l’RTF è la verifica che il modello riesca almeno a tenere il passo.
Cosa lo fa cambiare
Lo stesso modello dà valori diversi in condizioni diverse.
- L’hardware, e se il modello gira sulla CPU, sul chip grafico o sul Neural Engine.
- La dimensione del modello, e se è stato quantizzato.
- La durata dell’audio. Le clip molto brevi hanno un costo fisso di avvio che fa sembrare peggiore il rapporto.
- Il batching. Elaborare molte registrazioni insieme fa salire molto l’RTFx su un server.
Le domande più frequenti.
Qual è un buon fattore di tempo reale?
Per la dettatura dal vivo, qualsiasi valore ben sotto 1, così il modello resta davanti al tuo parlato. Per trascrivere file, più basso significa semplicemente meno attesa.
Qual è la differenza tra RTF e RTFx?
Sono l’uno l’inverso dell’altro. L’RTF è il tempo di elaborazione diviso per la durata dell’audio, quindi più basso è più veloce. L’RTFx è la durata dell’audio divisa per il tempo di elaborazione, quindi più alto è più veloce.
Come si calcola il fattore di tempo reale?
Dividi il tempo impiegato a trascrivere per la durata dell’audio. Dieci secondi di audio trascritti in due secondi danno un RTF di 0,2, ovvero un RTFx di 5.
Un fattore di tempo reale basso significa una latenza bassa?
Non necessariamente. L’RTF è una media sulla registrazione. Un modello può avere un RTF basso e farti comunque aspettare, se legge un intero blocco prima di scrivere qualcosa.
Cosa significa un RTF di 1?
Il sistema impiega a trascrivere l’audio esattamente quanto dura l’audio. Riesce appena a tenere il passo con il parlato dal vivo.
Perché la mia velocità è più bassa del valore nella scheda del modello?
I valori pubblicati sono di solito misurati su una scheda grafica da server con molte registrazioni in un batch. Una sola registrazione su un portatile è un test diverso.
