AudioGPT —— 基于 LLM 的音频助手
AudioGPT 是一个借助大语言模型 (LLM) 处理音频的工具。 AudioGPT 在收到用户请求时使用 ChatGPT 进行任务分析,根据语音基础模型中可用的功能描述选择模型,用选定的语音基础模型执行用户指令,并根据执行结果汇总响应。借助 ChatGPT 强大的语言能力和众多的语音基础模型,AudioGPT 能够完成几乎所有语音领域的任务。 具体来说,AudioGPT 运行过程可以分成 4 个阶段:模态转化、任务分析、模型分配和回复生成。 AudioGPT 核心功能 生成音乐 背景音效 音频生成字幕 文字生成音频 文字生成音频并模拟声音 根据图片生成音频 对音频进行inpaint(局部屏蔽) 根据音频和人脸照片合成视频 检测音频中的事件,以及开始和结束时间 单声道变双声道 通过文本描述检测特定声音发生的时间 抽取某种声音 去除背景噪音 多人混合声分离出单人声音 语音翻译
