6月3日,京东通知开源JoyAI-Echo长音视频生成框架。JoyAI-Echo管制了行业三大痛点:变装难踏实一致、音色变化难终端、视频生成速率慢,完了了长视频生成“又快又好”。此外,JoyAI-Echo的“边聊边改”模式,让视频创作从"静态生成"酿成"动态合作"。

JoyAI-Echo在种种视频创作、数字东谈主直播、品牌营销、造就和游戏施行分娩等限制有宽敞的诈欺后劲,它的推出,绚烂着京东在长视频生成限制完了要紧突破,进入群众第一梯队。
四大时间立异管制长视频生成三浩劫题
在AI视频限制,十几秒短视频的生成质料越来越闇练,但行业头疼的瓶颈依然存在:难以向分钟级长视频突破。AI视频一但拉到这一时长,就会出现以下问题:团结个变装,在不同镜头里长得不相同;语言东谈主的音色忽高忽低以至瞬息变声;生成速率慢到离谱,等几分钟以至半小时才调出终端。
以上问题,凯旋导致AI长视频停留在"玩物"阶段,很难实在插足分娩、创造价值。JoyAI-Echo的出现,透彻突破这个僵局。JoyAI-Echo有四项时间立异:
一是跨模态音视频牵挂库,让变装再也不"变脸"。这亦然JoyAI-Echo最关节的突破。模子框架内置了一个罕见的牵挂库,能在多镜头生成过程中,合手续保存并调用变装的外不雅特征和语言东谈主音色信息。在长达5分钟的视频里,变装身份、视觉形象和声息音色齐能保合手高度一致,再也不会出现"团结个东谈主演着演着酿成另一个东谈主"的难过情况。
二是牵挂运转后进修,速率凯旋擢升 7.5 倍。研发团队立异无情了牵挂运转后进修经过,荟萃 SFT、跨模态 RLHF 和 Distribution Matching Distillation(DMD)时间,大幅擢升了生成质料,更完了了惊东谈主的推理加快。
其中,仅DMD一项时间就带来了约7.5倍的速率擢升,让长视频生成从"等半天"酿成"秒出片"。
三是加入智能 "导演助理"——Director Agent,让长视频第一次完了 "对话式剪辑"。JoyAI-Echo 不再是 "输入教导词,一次性出终端" 的传统用具。你用当然语言说需求,凤凰彩票(中国)官方网站它会自动帮你拆分红脚本、变装、场景和镜头。那儿不舒心,凯旋用对话的形态告诉它修改,它只再行生成有问题的局部镜头,毋庸重跑整条视频,让长视频创作从 "静态生成" 酿成了 "动态合作"。
四是轻量化及时超分,高清输出不卡顿。为了知足专科施行分娩的需求,JoyAI-Echo配套了罕见的及时超分模块,撑合手两档分裂率擢升(736×1280→1152×1920,736×1280→1472×2560)。模块通过单步超分就能生成高分裂率视频和轮廓化音频,即使在流式延长的拘谨下,也能保合手踏实的高清证明。
各项意见全面卓越行业“AI长视频期间"到来
为了客不雅评估JoyAI-Echo的性能,研发团队基于100个故事、3000个镜头构建了长音视频生成评测集,从多个维度进行了全面测试。终端显现,JoyAI-Echo在跨镜头一致性、视频质料、文本一致性和语音施行准确率等统统中枢意见上齐得到了卓越证明,其中文音施行准确率更是高达0.8646,大幅卓越行业其它同类模子。
在与行业同类模子对比中,用户以为JoyAI-Echo音频质料偏好的比例为81.7%,教导词遵命偏好为80.6%,视觉好意思学偏好为63.6%,IP一致性偏好为59.4%。
JoyAI-Echo的推出,意味着AI视频生成的"长视频期间"来了。它为捏造故事创作和动漫制作、数字东谈主施行分娩和直播、品牌营销视频快速迭代、互动造就课件生成等限制带来了全新可能,将大幅优化行业老本效果。JoyAI-Echo也预示着翌日东谈主类不错像聊天相同,合手续创作、修改和完善长视频施行,让高一致性、高画质、可交互的视频生成,实在走进每一个施行创作家的责任经过。
京东通知,JoyAI-Echo的代码与权重已一谈开源,现在名堂页和GitHub代码仓库还是肃穆上线,供成就者和创作家体验:
https://github.com/jd-opensource/JoyAI-Echo
https://echo-team-joy-future-academy-jd.github.io/Echo-LongVideo-Page/凤凰彩票中国官网入口