2025年11月5日星期三

方言tts:支持多人对话的方言tts,支持语音克隆,可现实长篇播客,文末一键包

最近发现一个不错的tts方言包,支持多人对话,可以做多人对话博客了,博主第一时间体验了一下,觉得挺有意思

   最近发现一个不错的tts方言包,支持多人对话,可以做多人对话博客了,博主第一时间体验了一下,觉得挺有意思,给大家分享一下,文末给大家做了一个一键包,大家可以体验一下,废话不多说,直接上干货,哈哈~,不需要看细节的直接文末获取一键包。

概述

SoulX-Podcast 专为播客风格的多轮、多说话人对话语音生成而设计,同时在传统的独白 TTS 任务中也取得了优异的性能。

为了满足多轮口语对话对自然度的更高要求,SoulX-Podcast 集成了一系列副语言控制功能,支持普通话和英语,以及四川话、河南话、粤语等多种中文方言,从而能够生成更加个性化的播客风格语音。

主要特点 🔥

  • 长篇、多轮、多说话人对话语音生成:SoulX-Podcast 擅长为多轮、多说话人场景生成高质量、听起来自然的对话语音。

  • 跨方言、零样本语音克隆:SoulX-Podcast 支持跨不同中文方言的零样本语音克隆,能够以任何支持的方言生成高质量的个性化语音。

  • 副语言控制:SoulX-Podcast 支持各种副语言事件,例如笑声叹息,以增强合成结果的真实性。


图片
老规矩,先看效果

安装部署
想要自己部署的可以参考如下流程
首先配置
运行起来 我看了一下占 8G左右显存,建议至少8G现存
老粉都知道笔者用的4080,哈哈
windows安装注意
首先单独安装 torch -gpu版本,注意需要2.7.1版本,其他版本有可能报错
conda create -n soulxpodcast -y python=3.11conda activate soulxpodcastpip3 install torch==2.7.1 torchvision torchaudio==2.7.1 --index-url https://download.pytorch.org/whl/cu118pip install -r requirements.txtpip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host=mirrors.aliyun.com
还有就是单独安装 triton
这个我在一键包中提供了,哈哈
模型下载
pip install -U huggingface_hub
# base modelhuggingface-cli download --resume-download Soul-AILab/SoulX-Podcast-1.7B --local-dir pretrained_models/SoulX-Podcast-1.7B
# dialectal modelhuggingface-cli download --resume-download Soul-AILab/SoulX-Podcast-1.7B-dialect --local-dir pretrained_models/SoulX-Podcast-1.7B-dialect
一键包演示
下载一键包,点击【01运行程序.bat】即可启动,页面如下
图片
图片
你可以选择上传参考音频,也可以这几使用预置的音频,选择连个语音,和对应的文本,然后选择说话人的参考方言文本,这个可以再最下方选择,目前包含【四川话,河南话,粤语】,如下
图片
点击合成即可
图片
项目还支持一些笑声叹息,这个大家可以自行测试一下
欢迎大家关注,持续分享AI项目,关注后回复私信【sou】可获取一键包
大模型感兴趣的可以进群交流,已在群的就不要进了,我会定时清理
图片

#语音克隆#方言克隆#多人对话克隆#tts播客

历史优秀文章
一键包:图生视频,首尾帧视频生成,效果堪比大片,你也可以当导演了
开源图片一键高清项目,本地部署免费使用
替换视频人物:阿里开源wan2.2-vace-fun,可实现图片人物替换视频人物,文末一键包
AI+3D打印:从一张图片到真实的手办,保姆教程实现手办自由!文末一键包
图片数字人:对话唱歌都很自然,文末一键包,还有comfyui一键包
qwen-image-edit保持一致性真不错,图片编辑很灵活,文末一键包
基于claude code 接入国产模型,可调用agent,可控制操作系统,无需梯子使用本地大模型

没有评论:

发表评论

AI 多人生成新突破!复旦大学联合阶跃星辰提出WithAnyone,让 AI 合照不止“在一起”,更像真的“一起”。

添加微信号:AIGC_Tech,公众号小助手会拉你进群!点击下方名片关注AIGC Studio公众号! 添加微信号:AIGC_Tech,公众号小助手会拉你进群! 点击下方名片关注AIGC Studio公众号 ! 获取 最新AI前沿应用/ AIGC实践教程 ! 让 AI 合照,...