실시간 계수

RTF는 처리 시간을 오디오 길이로 나눈 값입니다. 10초 길이의 오디오를 전사하는 데 2초가 걸리면 RTF는 0.2입니다.

RTFx는 이를 뒤집은 것으로, 오디오 길이를 처리 시간으로 나눈 값입니다. 같은 예에서 RTFx는 5입니다. 순위를 매기는 모델의 RTFx를 공개하는 Open ASR Leaderboard는, RTFx가 1이면 시스템이 말하는 속도만큼 빠르게 음성을 처리한다는 뜻이고 RTFx가 2이면 그 절반의 시간이 걸린다는 뜻이라고 설명합니다.

지금 보고 있는 수치가 둘 중 어느 것인지 확인하세요. 두 수치는 방향이 반대입니다.

• RTF: 낮을수록 빠릅니다. 1보다 작으면 실시간 음성을 따라가고, 1보다 크면 뒤처집니다.
• RTFx: 높을수록 빠릅니다. 1보다 크면 실시간 음성을 따라갑니다.
• RTF 0.01과 RTFx 100은 같은 속도입니다. 1시간 길이의 오디오를 36초에 처리합니다.

모델 카드에는 수백에서 수천에 이르는 RTFx가 적혀 있는 경우가 많습니다. 이런 수치는 데이터 센터용 그래픽 카드에서 많은 녹음을 한꺼번에 처리하여 측정한 것입니다. 3,000이 넘는 수치를 제시한 한 모델 카드는 성능이 오디오 길이와 배치 크기에 따라 달라질 수 있다고 덧붙입니다.

한 사람의 목소리를 전사하는 노트북에서는 그런 수치가 전혀 나오지 않으며, 그럴 필요도 없습니다. 이 수치는 모델끼리 비교할 때 유용할 뿐, 실제로 보게 될 속도를 예측하는 데는 쓸모가 없습니다.

RTF는 녹음 전체에 대한 평균입니다. 첫 단어가 언제 나타나는지, 말을 멈춘 뒤 얼마나 기다리는지는 알려 주지 않는데, 받아쓰기에서 체감하는 것은 바로 그 부분입니다.

RTF가 뛰어나더라도 오디오 덩어리 전체를 기다린 뒤에 쓰는 모델은, RTF가 더 나쁜 스트리밍 모델보다 느리게 느껴질 수 있습니다. 실시간으로 쓸 때 물어봐야 할 척도는 지연 시간이며, RTF는 모델이 애초에 따라올 수 있는지 확인하는 기준입니다.

같은 모델이라도 조건에 따라 수치가 다릅니다.

• 하드웨어, 그리고 모델이 CPU, 그래픽 칩, Neural Engine 중 어디에서 실행되는지.
• 모델의 크기, 그리고 양자화 여부.
• 오디오 길이. 아주 짧은 클립에는 고정된 시작 비용이 있어 비율이 더 나빠 보입니다.
• 배치 처리. 서버에서 많은 녹음을 한꺼번에 처리하면 RTFx가 크게 올라갑니다.