MLLM 推理为视频物体插入提供物理合理性引导。
资讯摘要
论文提出 Place-it-R1,一个端到端视频物体插入框架,借助环境感知的 MLLM 推理判断物体与场景的交互及物理上合理的插入位置,并将推理结果转化为语义引导和逐帧空间引导,用于视频扩散生成。作者还提出 Spatial Direct Preference Optimization,用 MLLM 对候选排序,并把物理违规惩罚定位到插入物体区域。论文报告其在物理一致性和视觉自然度上优于现有方法,并称与商业系统结果相当。
要点速读
- 论文用 MLLM 分析目标环境、推断物体与场景交互,并确定物理上有效的插入区域。
- 推理结果被转化为语义引导与逐帧空间引导,供视频扩散模型使用。
- 提出 Spatial Direct Preference Optimization,将物理违规惩罚限定在插入物体区域,并提供灵活与标准两种模式。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。