实时数字人直播:LiveTalking快速上手指南
实时数字人直播LiveTalking快速上手指南【免费下载链接】metahuman-streamReal time interactive streaming digital human项目地址: https://gitcode.com/GitHub_Trending/me/metahuman-stream主播话音刚落数字人口型同步接上回答全程无需拼接 TTS 与换脸工具LiveTalking 一条命令就能拉起实时数字人直播。它能干什么LiveTalking 是一个实时交互流式数字人引擎仓库原名 metahuman-stream输入文本或音频输出带口型同步的数字人视频流替代先录后播的传统数字人制作方式可直接驱动虚拟主播、数字人客服等场景。支持四种口型模型说话中随时打断支持声音克隆WebRTC/RTMP/虚拟摄像头输出支持多并发会话Web客户端输入文字数字人实时播报5分钟跑通第一版克隆仓库并进入目录git clone https://gitcode.com/GitHub_Trending/me/metahuman-stream cd metahuman-stream创建独立环境安装 PyTorch 与依赖按nvidia-smi核对 CUDA 版本conda create -n livetalking python3.12 conda activate livetalking pip install torch2.9.1 torchvision0.24.1 torchaudio2.9.1 --index-url https://download.pytorch.org/whl/cu128 pip install -r requirements.txt按仓库说明下载模型文件放到两个位置# 权重拷到 models 目录并重命名 cp wav2lip256.pth models/wav2lip.pth # 形象包解压到 data/avatars tar -xzf wav2lip256_avatar1.tar.gz -C data/avatars启动 WebRTC 服务注意服务端需开放 TCP 8010 与 UDP 1-65536python app.py --transport webrtc --model wav2lip --avatar_id wav2lip256_avatar1验证效果浏览器打开http://服务器IP:8010/webrtcapi.html点击 start文本框输入一句话提交数字人开口播报即跑通。Docker懒人通道不想手动装环境直接用镜像拉起docker run --gpus all -it --networkhost --rm \ registry.cn-beijing.aliyuncs.com/codewithgpu2/lipku-metahuman-stream:2K9qaMBu8v进阶配置与可选玩法口型模型切换如果你想换更高画质的形象可以切换模型参数wav2lip 之外还支持 musetalk、ultralight、ernerfpython app.py --transport webrtc --model musetalk --avatar_id 你的形象ID特定音色播报如果你想让数字人用指定声音说话可以编辑config.yaml选用 gpt-sovits、cosyvoice 等引擎并填入参考音频tts: gpt-sovits REF_FILE: ref.wav REF_TEXT: 参考音频对应的文本数字人当摄像头用如果你想把数字人塞进会议或直播软件可以改走虚拟摄像头输出再在 OBS、腾讯会议里选中该摄像头设备python app.py --transport virtualcam --model wav2lip --avatar_id wav2lip256_avatar1腾讯会议中选中虚拟摄像头设备硬件要求与性能参考模型/配置硬件关键指标wav2lip256RTX 306060 FPSwav2lip256RTX 3080Ti120 FPSmusetalkRTX 3080Ti42 FPSmusetalkRTX 409072 FPSwav2lip 选 3060 起步musetalk 建议 3080Ti 及以上。高频坑视频连不上→ 服务器端口未放行 → 开放 TCP 8010 与 UDP 1-65536RTMP 推流失败→ ffmpeg 缺 libx264 → 换带 libx264 的 ffmpeg 4.2.2模型下载中断→ 连不上 HuggingFace →export HF_ENDPOINThttps://hf-mirror.com写在最后适合想快速落地数字人直播的个人开发者现在就能克隆跑通第一版。【免费下载链接】metahuman-streamReal time interactive streaming digital human项目地址: https://gitcode.com/GitHub_Trending/me/metahuman-stream创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考