Glossaire / Comment il vous entend
Facteur temps réel
Aussi : RTF, RTFx
Publié le
Définition
Le facteur temps réel (RTF, real-time factor) est le temps que met un système de reconnaissance vocale à traiter un audio, divisé par la durée de cet audio. Un RTF de 0,5 signifie qu’une minute de parole est transcrite en 30 secondes ; en dessous de 1, c’est plus rapide que le temps réel.
C’est la façon habituelle d’exprimer la vitesse d’un modèle vocal, indépendamment de la durée de l’enregistrement. La définition remonte aux évaluations menées par le NIST, l’organisme de normalisation américain, qui l’appelait le facteur de vitesse : le temps de traitement total divisé par la durée du signal source.
Son inverse, le RTFx, est devenu le chiffre le plus courant, parce que plus il est grand, mieux c’est, et que les nombres sont plus faciles à lire. Les deux décrivent la même chose.
La formule
Le RTF est le temps de traitement divisé par la durée de l’audio. Si 10 secondes d’audio prennent 2 secondes à transcrire, le RTF est de 0,2.
Le RTFx l’inverse : la durée de l’audio divisée par le temps de traitement. Le même exemple donne un RTFx de 5. L’Open ASR Leaderboard, qui publie le RTFx des modèles qu’il classe, explique qu’un RTFx de 1 signifie qu’un système traite la parole aussi vite qu’elle est prononcée, et qu’un RTFx de 2 signifie qu’il lui faut moitié moins de temps.
Comment lire un chiffre
Vérifiez lequel des deux vous avez sous les yeux, car ils vont dans des sens opposés.
- RTF : plus il est bas, plus c’est rapide. En dessous de 1, le modèle suit la parole en direct ; au-dessus de 1, il prend du retard.
- RTFx : plus il est haut, plus c’est rapide. Au-dessus de 1, le modèle suit la parole en direct.
- Un RTF de 0,01 et un RTFx de 100 correspondent à la même vitesse : une heure d’audio en 36 secondes.
Pourquoi les chiffres publiés sont si élevés
Les fiches de modèles citent souvent un RTFx de plusieurs centaines ou milliers. Ces chiffres sont mesurés sur une carte graphique de data center, avec de nombreux enregistrements traités à la fois. La fiche d’un modèle, qui cite un chiffre supérieur à 3 000, ajoute que les performances peuvent varier selon la durée de l’audio et la taille des lots.
Un portable qui transcrit une seule voix n’obtient rien de tel, et n’en a pas besoin. Le chiffre sert à comparer les modèles entre eux, pas à prédire ce que vous verrez.
Ce qu’il ne vous dit pas
Le RTF est une moyenne sur tout un enregistrement. Il ne dit rien du moment où le premier mot apparaît, ni du temps que vous attendez après avoir cessé de parler, et pour la dictée, c’est cela que vous ressentez.
Un modèle avec un excellent RTF qui attend un bloc d’audio entier avant d’écrire peut sembler plus lent qu’un modèle en streaming avec un moins bon RTF. Pour un usage en direct, c’est la latence qu’il faut demander, et le RTF sert à vérifier que le modèle peut suivre tout court.
Ce qui le fait varier
Le même modèle donne des chiffres différents selon les conditions.
- Le matériel, et le fait que le modèle tourne sur le CPU, la puce graphique ou le Neural Engine.
- La taille du modèle, et le fait qu’il ait été quantifié ou non.
- La durée de l’audio. Les clips très courts ont un coût de démarrage fixe qui fait paraître le rapport moins bon.
- Le traitement par lots. Traiter de nombreux enregistrements à la fois fait fortement grimper le RTFx sur un serveur.
Les questions qu’on se pose.
Qu’est-ce qu’un bon facteur temps réel ?
Pour la dictée en direct, toute valeur nettement inférieure à 1, pour que le modèle garde de l’avance sur votre parole. Pour transcrire des fichiers, plus il est bas, moins vous attendez.
Quelle est la différence entre RTF et RTFx ?
Ils sont inverses l’un de l’autre. Le RTF est le temps de traitement divisé par la durée de l’audio : plus il est bas, plus c’est rapide. Le RTFx est la durée de l’audio divisée par le temps de traitement : plus il est haut, plus c’est rapide.
Comment calculer le facteur temps réel ?
Divisez le temps de transcription par la durée de l’audio. Dix secondes d’audio transcrites en deux secondes donnent un RTF de 0,2, soit un RTFx de 5.
Un facteur temps réel bas signifie-t-il une latence faible ?
Pas forcément. Le RTF est une moyenne sur l’enregistrement. Un modèle peut avoir un RTF bas et vous faire quand même attendre, s’il lit un bloc entier avant d’écrire quoi que ce soit.
Que signifie un RTF de 1 ?
Le système met exactement autant de temps à transcrire l’audio que l’audio en dure. Il suit tout juste la parole en direct.
Pourquoi ma vitesse est-elle inférieure au chiffre de la fiche du modèle ?
Les chiffres publiés sont en général mesurés sur une carte graphique de serveur, avec de nombreux enregistrements par lot. Un seul enregistrement sur un portable, c’est un autre test.
