Meta 发布语音生成 AI 模型:Voicebox
Meta 宣布了一项在语音生成领域的突破性成果:Voicebox。这是一个在各方面都表现非常先进的语音生成 AI 模型,它能够通过上下文学习执行语音生成任务,如编辑、采样和风格转换等,而无需专门训练。 与其他生成语音的 AI 需要使用精心准备的训练数据对每项任务进行特定训练不同。Voicebox 使用一种新方法来仅从原始音频和随附的转录中学习。这种方法提高了模型的灵活性,能够更好地适应各种任务。 Voicebox 采用非自回归的流匹配模型,它被训练用于填充语音,给定音频上下文和文本,并在超过 50000 小时的未经过滤或增强的语音上进行训练。类似于 GPT,Voicebox 可以通过上下文学习执行许多不同的任务,但它更灵活,因为它还可以根据未来的上下文进行条件化。 Voicebox 模型具有多种用途。它可以用于单语言或跨语言的零样本文本到语音合成、噪声去除、内容编辑、风格转换和多样性样本生成。特别地,Voicebox 在可理解性(5.9% 对 1.9% 的单词错误率)和音频相似度(0.580 对 0.681)方面优于当前最先进的英语模型 VALL-E,同时速度比它快 20 倍。 对于跨...



