REViT-v2:用于等变特征提取的分层窗口化旋转反射等变 ViT
REViT-v2: Hierarchical Windowed Roto-reflection Equivariant ViT for Equivariant Feature Extraction
精选理由
提出可扩展的旋转与镜像等变视觉Transformer,在ImageNet规模图像上高效提取方向变换稳健的特征。
AI 摘要
arXiv:2610.07585v1 公告类型:交叉收录 摘要:我们提出了一种可扩展的旋转反射群等变视觉 Transformer,其基于窗口化群卷积自注意力和分层特征架构。我们证明,该方法可以扩展至具有数百万参数的群等变视觉 Transformer(ViTs),并应用于包含实际应用尺寸图像的大规模数据集,即 ImageNet。所提出的分层窗口化旋转反射等变 ViTs(REViT-v2)的代码和预训练权重可在 https://github.com/kc-ml2/revit 获取。