4D-HOF:用于前馈式 4D 交互重建的手-物体流匹配
4D-HOF: Hand-Object Flow Matching for Feed-Forward 4D Interaction Reconstruction
精选理由
介绍一种无需逐序列优化、可结合物理约束提升手物交互重建稳定性的前馈方法。
AI 摘要
现有的 4D 手-物体重建方法通常依赖成本高昂的逐序列优化,而生成式方法通常从随机噪声中合成交互,这可能导致交互预测不稳定。我们提出了 4D-HOF,一种前馈式框架,利用视觉基础模型生成的粗略但信息丰富的估计结果来重建 4D 手-物体交互。具体而言,我们学习了一个条件流匹配模型,将由基础模型生成的手-物体状态输送至交互流形,使模型能够以前馈方式修正平移、旋转和对齐误差。我们的生成式建模方式具有一项关键优势,即能够在输送过程中自然地实现测试时引导。我们不再于重建完成后单独进行事后优化,而是利用物理交互约束和观测到的 2D 证据,直接引导不断演化的生成状态,使重建过程本身得以逐步优化。通过在多样化数据集上训练生成模型,4D-HOF 能够稳健地泛化到具有挑战性的真实场景。域外基准测试表明,4D-HOF 达到了当前最优性能,生成了更加稳定且准确的 4D 手-物体重建结果。