Soul AI Lab近期正式开源实时数字人生成模型SoulXFlashTalk,这是Soul继去年10月开源语音合成模型SoulXPodcast后的又一重磅开源成果,标志Soul在AI交互技术领域完成语音与视觉双模型布局,持续推进技术开放共享,为全球开发者提供高质量、可落地的AI模型,共建AI社交技术生态底座。Soul团队坚持技术创新与开源协作并行,通过持续开源,推动行业技术进步,同时赋能自身产品与业务发展。

SoulXFlashTalk是一款14B参数级DiT模型,主打实时数字人生成能力,具备0.87秒亚秒级延时、32fps高帧率、超长视频稳定生成、全身动作交互四大核心优势。模型采用两阶段训练策略与全栈加速引擎,通过双向蒸馏、多步回溯自纠正、混合序列并行、算子级优化、3D VAE并行化、整链优化等多项技术创新,成功解决传统数字人延迟高、画质不稳、身份漂移、动作单一等痛点,性能全面领先行业主流方案,为实时数字人交互提供全新技术范式。
在技术指标层面,SoulXFlashTalk表现突出。延迟方面,首帧视频输出仅需0.87秒,消除大模型生成滞后感;帧率方面,推理吞吐量达32fps,远超直播25fps实时标准;长视频生成方面,通过双向注意力与自纠正机制,有效抑制身份漂移,保证长时间生成画质稳定;动作交互方面,支持音频驱动全身肢体动态合成,手部细节清晰、身份一致性达99.22。TalkBench数据集评测显示,模型短视频ASE达3.51、IQA达4.79、SyncC达1.47,长视频SyncC达1.61,长短视频均稳定输出32fps,各项指标全面领先。

Soul此次开源延续一贯开放共享理念。去年10月,SoulAI团队开源语音合成模型SoulXPodcast,凭借优异性能快速登顶HuggingFace TTS趋势榜,目前GitHub星标超3100,获得全球开发者广泛认可与使用,为语音合成技术开源生态注入活力。此次开源SoulXFlashTalk,进一步丰富Soul开源矩阵,覆盖语音与视觉两大交互核心领域,为开发者提供从语音生成到数字人生成的完整AI交互技术方案,助力快速开发各类AI交互应用。

训练流程示意图
未来,Soul将持续聚焦语音对话合成、视觉交互等核心交互能力,不断优化模型性能、拓展应用场景,持续推进开源工作,开放更多高质量AI模型与技术方案。Soul将积极与全球开发者携手,共建开放、协作、创新的AI技术生态,推动AI与社交、电商、教育、客服等领域深度融合,为用户带来更加沉浸、智能、富有温度的交互体验,为行业技术发展贡献力量。
