Echtzeitfaktor
Auch: RTF, RTFx
Veröffentlicht:
Definition
Der Echtzeitfaktor (RTF, Real-Time Factor) ist die Zeit, die ein Spracherkennungssystem zum Verarbeiten von Audio braucht, geteilt durch die Länge dieses Audios. Ein RTF von 0,5 bedeutet, dass eine Minute Sprache in 30 Sekunden transkribiert wird. Unter 1 ist schneller als Echtzeit.
Er ist das übliche Maß dafür, wie schnell ein Spracherkennungsmodell ist, unabhängig davon, wie lang die Aufnahme war. Die Definition geht auf Evaluierungen des NIST zurück, der US-Normungsbehörde, die ihn Speed Factor nannte: gesamte Verarbeitungszeit geteilt durch die Dauer des Quellsignals.
Sein Kehrwert, RTFx, ist inzwischen die gängigere Zahl, weil größer besser ist und die Werte leichter zu lesen sind. Beide beschreiben dasselbe.
Die Formel
RTF ist Verarbeitungszeit geteilt durch Audiodauer. Wenn das Transkribieren von 10 Sekunden Audio 2 Sekunden dauert, ist der RTF 0,2.
RTFx dreht das um: Audiodauer geteilt durch Verarbeitungszeit. Dasselbe Beispiel ergibt einen RTFx von 5. Das Open ASR Leaderboard, das den RTFx der Modelle in seiner Rangliste veröffentlicht, erklärt: Ein RTFx von 1 bedeutet, dass ein System Sprache so schnell verarbeitet, wie sie gesprochen wird, und ein RTFx von 2, dass es die halbe Zeit braucht.
So liest du einen Wert
Prüfe, welchen der beiden du vor dir hast, denn sie zeigen in entgegengesetzte Richtungen.
- RTF: niedriger ist schneller. Unter 1 hält mit Live-Sprache mit, über 1 fällt zurück.
- RTFx: höher ist schneller. Über 1 hält mit Live-Sprache mit.
- Ein RTF von 0,01 und ein RTFx von 100 sind dieselbe Geschwindigkeit: eine Stunde Audio in 36 Sekunden.
Warum veröffentlichte Werte so hoch sind
Model Cards nennen oft einen RTFx in den Hunderten oder Tausenden. Diese Werte werden auf einer Rechenzentrums-Grafikkarte gemessen, mit vielen Aufnahmen gleichzeitig. Die Model Card eines Modells, die einen Wert über 3.000 nennt, fügt hinzu, dass die Leistung je nach Audiodauer und Batchgröße variieren kann.
Ein Laptop, der eine Stimme transkribiert, kommt nicht annähernd dahin, und muss es auch nicht. Der Wert ist nützlich, um Modelle miteinander zu vergleichen, nicht um vorherzusagen, was du sehen wirst.
Was er dir nicht sagt
RTF ist ein Durchschnitt über eine ganze Aufnahme. Er sagt nichts darüber, wann das erste Wort erscheint oder wie lange du wartest, nachdem du aufgehört hast zu sprechen, und genau das spürst du beim Diktieren.
Ein Modell mit einem hervorragenden RTF, das vor dem Schreiben auf ein ganzes Stück Audio wartet, kann sich langsamer anfühlen als ein Streaming-Modell mit einem schlechteren. Für den Live-Einsatz ist die Latenz das Maß, nach dem du fragen solltest, und der RTF ist die Prüfung, ob das Modell überhaupt mithalten kann.
Was ihn verändert
Dasselbe Modell liefert unter verschiedenen Bedingungen verschiedene Werte.
- Die Hardware, und ob das Modell auf der CPU, dem Grafikchip oder der Neural Engine läuft.
- Die Größe des Modells, und ob es quantisiert wurde.
- Die Länge des Audios. Sehr kurze Clips tragen feste Startkosten, die das Verhältnis schlechter aussehen lassen.
- Batching. Viele Aufnahmen gleichzeitig zu verarbeiten, treibt den RTFx auf einem Server stark nach oben.
Fragen, die Leute stellen.
Was ist ein guter Echtzeitfaktor?
Für Live-Diktat alles, was deutlich unter 1 liegt, damit das Modell deiner Sprache voraus bleibt. Beim Transkribieren von Dateien heißt niedriger einfach weniger Warten.
Was ist der Unterschied zwischen RTF und RTFx?
Sie sind Kehrwerte voneinander. RTF ist Verarbeitungszeit geteilt durch Audiolänge, niedriger ist also schneller. RTFx ist Audiolänge geteilt durch Verarbeitungszeit, höher ist also schneller.
Wie berechnet man den Echtzeitfaktor?
Teile die Zeit fürs Transkribieren durch die Dauer des Audios. Zehn Sekunden Audio, transkribiert in zwei Sekunden, ergeben einen RTF von 0,2 oder einen RTFx von 5.
Bedeutet ein niedriger Echtzeitfaktor eine niedrige Latenz?
Nicht unbedingt. RTF ist ein Durchschnitt über die Aufnahme. Ein Modell kann einen niedrigen RTF haben und dich trotzdem warten lassen, wenn es ein ganzes Stück liest, bevor es etwas schreibt.
Was bedeutet ein RTF von 1?
Das System braucht zum Transkribieren genau so lange, wie das Audio dauert. Es hält mit Live-Sprache gerade so mit.
Warum ist meine Geschwindigkeit niedriger als der Wert auf der Model Card?
Veröffentlichte Werte werden meist auf einer Server-Grafikkarte mit vielen Aufnahmen in einem Batch gemessen. Eine Aufnahme auf einem Laptop ist ein anderer Test.
