MOVE:面向图学习的多模态开放世界验证与扩展
MOVE: Multimodal Open-world Verification and Expansion for Graph Learning
精选理由
MOVE帮助多模态图学习识别未知类别并可靠扩展标签空间,提升多项任务表现。
AI 摘要
arXiv:2610.00268v1 公告类型:新 摘要:多模态图学习面临一个根本性挑战:新类别可能在部署后出现,而模型训练时使用的是固定的标签空间。现有方法通常会检测未知节点,并利用 LLM 生成候选类别描述,但它们无法确定现有类别是否不足以覆盖这些节点,也无法判断生成的类别是否足够可靠、可以用于扩展类别空间。我们的实证研究揭示了三个挑战:未知节点识别需要利用超越单个模态的多模态信息;LLM 生成的类别描述可能无法充分捕捉多模态类别特征;直接添加候选类别可能引入冗余类别。基于这些观察,我们提出 MOVE,一种多模态开放世界类别验证与扩展框架。MOVE 通过联合考虑视觉标记、文本属性和图上下文,识别无法归入现有类别的节点;利用多模态 LLM 生成候选类别;仅当候选类别获得多模态证据的一致支持且不会引入不必要的类别时,才选择性地扩展类别空间。实验表明,在未知类别识别、开放域标注和下游图学习任务中,MOVE 的平均性能提升了 11.87\%。