Viggle发布JST-2 Motion:支持文本/视频驱动的原生3D全身动作生成,兼容标准骨骼,面向动画、游戏与具身AI
(文/杨亮)SmartHey10月28日消息,近日,物理原生世界模型公司 Viggle 公开 JST‑2 Motion 技术细节。该模块是 JST‑2 世界模型的核心配套组件,专用于高保真全身 3D 动作生成,同时支持“文本生成动作”与“视频重建 3D 人体运动”两大范式。生成结果可直接驱动 JST‑2 角色,无需额外动作重定向,且原生兼容行业通用 3D 角色骨骼结构,适用于动画制作、游戏开发及具身 AI 的运动训练等多场景需求。
JST‑2 Motion 具备两项关键能力:
一、文本到全身动作生成:仅需输入自然语言描述(如“缓慢转身并挥手致意”),即可输出完整、连贯的人体运动序列。大幅降低动画师手动调整关键帧或筛选动作库素材的工作量;也为具身 AI 提供了通过文本指令直接驱动角色行为的新路径。
二、视频到 3D 动作重建:不仅精准还原视频中可见肢体的运动轨迹,更依托学习获得的人体动力学先验,智能推断被遮挡部位(如背侧关节、隐藏手部)的姿态。对拍摄角度无严格要求——侧面、局部遮挡、非正对镜头的实拍视频均可稳健处理,显著降低专业动捕门槛,并为具身 AI 构建高质量、大规模人体运动数据集提供新方案。
研究团队采用盲测人工评估机制:所有动作均以统一的无纹理 MetaHuman 骨骼模型呈现,彻底排除角色外观干扰。在文本驱动任务中,JST‑2 Motion 对标 HY‑Motion‑1.0 与 Cartwheel Swing 两大主流基线模型,测试覆盖日常移动、手势交互、格斗特技、舞蹈表演等八大典型场景;其在手势表达与舞蹈类动作上表现尤为突出,在指令遵循度、足部接地稳定性及整体动作流畅性三项核心指标上综合领先。
具体得分显示:相较 Cartwheel Swing 综合得分为 74.8%,对比 HY‑Motion‑1.0 达到 80.0%;在视频驱动任务中,对标 DeepMotion Animate 3D 与 Cartwheel Comic 4,测试素材涵盖运动竞技、健身教学、社交互动及游戏角色实拍片段。JST‑2 Motion 能准确保留原始视频的节奏变化与加速度特征,并精细复现手指等末端肢体运动——手部跟踪指标优于 DeepMotion Animate 3D,综合得分达 89.1%。
论文亦坦诚当前技术边界:对高速强周期性动作(如快速跳绳、高频击打)的建模仍有优化空间;脚部落地与抬升阶段偶见轻微滑动现象;在部分高速体育类视频上,相较 Cartwheel Comic 4 尚存一定差距;此外,提示词对运动方向控制、动作间过渡平滑性及节奏调节的精细化引导能力有待进一步增强。
目前,JST‑2 系统的角色运动基于学习型动力学建模,但场景中的物体碰撞与交互仍依赖传统规则物理引擎。Viggle 已披露下一代 JST‑3 的演进路线图:将全面采用端到端学习式动力学,实现从人体运动到物体交互、乃至世界状态动态演化的联合预测,迈向真正物理一致的具身智能世界模型。
