视频生成的黄金锚点
Golden Anchor for Video Generation
精选理由
揭示图像美学不等于视频质量,并提出用视频反馈优化锚图以提升生成效果。
AI 摘要
arXiv:2610.13217v1 公告类型:cross 摘要:视频生成支持数字内容创作,应用于虚拟化身、AI驱动的电影制作、交互式游戏引擎和世界模型。当前最先进的系统主要通过图像到视频(I2V)生成实现可控性,其中注入的锚点图像决定生成视频的身份、构图和风格。在现代流程中,这一锚点由文本到图像(T2I)生成器合成。这引出了一个长期被忽视的问题:直接从T2I模型获得的图像,是否真正适合当前的视频模型?我们的分析表明,锚点的美学与质量评分同下游视频质量之间的相关性较弱。无论在视觉维度还是运动维度,结构与纹理评分都与I2V视频质量呈负相关。相应地,在图像奖励上对T2I模型进行微调,会生成结构和人物细节明显更加密集的锚点:它们在图像指标上的得分更高,却会降低我们测试的每个I2V模型的视频奖励,并使下游运动产生不可预测的变化。因此,我们提出Golden Anchor Learning(GAL)。据我们所知,这是首个通过利用下游视频反馈优化T2I生成器来学习黄金锚点的框架。GAL在冻结的I2V模型下,通过锚点所诱导生成的视频评估候选锚点,并将视频奖励转换为图像级偏好,用于对T2I生成器进行DPO微调。在全部四个I2V模型上,与未经调优的生成器相比,GAL将VBench平均分提高了$2.97\%$--$8.46\%$。渲染得到的视频片段在VideoReward-Overall下的得分也更高,其提取帧在HPSv3和UniPercept下的得分同样更高。根据VBench动态程度指标,GAL在全部四个I2V模型上均带来稳定的运动性能提升,增幅为$5.62\%$--$38.24\%$。尽管GAL仅基于HunyuanVideo-1.5的渲染结果进行训练,这些提升仍能推广到另外三个I2V模型。