语音转文字
又称:STT
更新于
定义
语音转文字(STT)是把口语音频转换成书面文字的技术。它是一个统称,涵盖实时听写、文件转写、字幕和语音命令。
转换由语音识别模型完成,模型可能在云端运行(音频上传到服务器),也可能在设备端运行(音频从不离开电脑)。这一选择同时决定了隐私特性和离线表现。
原始STT输出是一份转写文本:大多是小写,标点很少,语气词和说错重来的部分原样保留。基于STT构建的产品,主要区别在于识别之后做了什么,从什么都不做,到完整的格式化处理。
处理流程的四个阶段
音频采集把声音变成一连串采样。特征提取把这些采样转换成模型能读取的表示形式,通常是频谱图。识别模型把这种表示映射为文字,有时会经过音素或子词token这一中间步骤。后处理把模型的输出变成人会写出的样子:标点、大小写、用阿拉伯数字表示的数字,在更好的工具中还有去除语气词和调整语气。
当人们说一个工具“使用AI”时,几乎总是指第三个阶段。日常使用中的大部分质量取决于第四个阶段,而这恰恰是营销宣传常常略过的阶段。
云端与设备端
云端STT把音频发送到服务器,在那里运行一个大模型,再返回文字。它可以使用笔记本电脑装不下的模型,而且在任何能联网的设备上都能用。设备端STT在你自己的硬件上运行模型,所以音频从不离开电脑,可以离线使用,也没有往返传输。在Apple芯片上,准确度的差距已经缩小到这种程度:选择的依据主要是隐私和成本,而不是质量。
产品页面上这些词的含义
规格表上的“语音转文字”通常指原始模型。“听写”指整个体验,包括文字落在哪里。“转写”指处理文件。“流式”指文字在你说话时就出现,而不是说完之后。“本地”或“设备端”指音频留在本机。弄清楚每个词描述的是哪个阶段,就掌握了诚实读懂一份对比所需的大部分知识。
如何在Mac上打开语音转文字
每台Mac都内置了语音转文字。Apple称之为“听写”,它会在光标所在的任何文本栏中输入文字。你大约一分钟就能设置好。
- 选取苹果菜单 → “系统设置”,然后点按边栏中的“键盘”。
- 前往“听写”,然后将其打开。
- 点按“麦克风来源”旁边的弹出式菜单,选取你想要的麦克风。“自动”会让Mac使用你最有可能使用的设备来聆听。
- 点按“快捷键”弹出式菜单,选取一个用于启动听写的快捷键。选取“自定义”可以创建列表中没有的快捷键。
- 点按任意文本栏,按下快捷键,然后说话。
- 完成后停止。如果30秒内未检测到语音,听写也会自动停止。
语音转文字准确吗?公开数据显示了什么
它受音频影响的程度超出大多数人的预期。NVIDIA公布了其开源模型Parakeet TDT 0.6B v3在八个英语测试集上的结果,同一模型在清晰的朗读语音(LibriSpeech test-clean)上的词错误率为1.93%,在会议录音(AMI)上为11.31%。
噪声也会改变这个数字。在同一份模型卡中,平均词错误率从清晰音频上的6.34%上升到噪声与语音一样响时的11.66%(信噪比为0)。安静的房间和靠近的麦克风是你能做的最便宜的准确率提升。
- 语音类型:朗读的句子比多人交叠说话的会议更容易识别。
- 背景噪声和音乐:噪声越接近你的声音音量,错误率越高。
- 口音和方言:Whisper模型卡报告了不同口音和方言下的性能差异。
- 语言:Whisper模型卡报告,训练数据较少的语言准确率较低。
- 词汇:Parakeet模型卡警告,模型词汇表之外的词不太可能被识别。
如何检查你的语音是否留在Mac上
语音转文字要么在你的设备上处理,要么发送到服务器,你通常可以查到是哪一种。对于Apple的听写,答案写在设置中。对于其他任何工具,权限列表会告诉你哪些App能听到麦克风。
- 选取苹果菜单 → “系统设置”,然后点按边栏中的“键盘”。
- 前往“听写”,阅读“听写”开关下方的文字。它会说明你的语音输入和听写文本是否在你的设备上处理。
- 前往“系统设置 → 隐私与安全 → 麦克风”,查看每个请求过使用麦克风的App。
- 在该列表中关闭任何你不想让它聆听的App。
- 对于第三方工具,请阅读其隐私政策,了解音频在哪里处理。“麦克风”列表显示的是谁可以聆听,而不是音频去了哪里。
大家常问的问题。
语音转文字和听写有什么区别?
语音转文字是底层技术:输入音频,输出文字。听写是基于它构建的产品,会把这些文字实时插入你书写的地方,并进行格式化。每个听写App都使用语音转文字;但并非每个语音转文字产品都是听写。
哪种语音转文字最准确?
对于用好麦克风录制的英语,领先的云端引擎和最好的开放模型已经非常接近,你的口音、房间和词汇比模型本身更重要。准确度以基准音频上的词错误率来衡量,而个人词典缩小的现实差距,比换模型更多。
如何在Mac上打开语音转文字?
选取苹果菜单 → “系统设置”,点按“键盘”,前往“听写”,然后将其打开。之后在任意文本栏中按下那里显示的快捷键并说话。
Mac语音转文字会在一段时间后停止吗?
Apple表示,你可以听写任何长度的文本而不会超时。不过,如果30秒内未检测到语音,听写会自动停止。
为什么在嘈杂的房间里语音转文字不太准确?
噪声会掩盖模型所依赖的那部分声音。根据NVIDIA公布的Parakeet TDT 0.6B v3结果,平均词错误率从清晰音频上的6.34%上升到噪声与语音一样响时的11.66%。