IdeaAnchor:教导 LLMs 将文献转化为研究想法
IdeaAnchor: Teaching LLMs to Turn Literature into Research Ideas
精选理由
为文献驱动的科研选题提供结构化训练框架,提升大模型生成新颖研究思路的能力。
AI 摘要
科学研究通常始于从一组相关论文中综合 ideas,以发现研究空白并提出新的方向。然而,训练语言模型执行这种以文献为基础的构思仍然具有挑战性,因为现有基于提示或反馈的方法缺乏关于应如何综合论文的结构化监督。我们提出 IdeaAnchor,这是一种利用结构化规范作为特权信号来训练 LLMs 进行研究构思的范式。每个 IdeaAnchor 实例都编码了应如何将每篇输入论文综合为一个成功想法的信息,包括论文的功能角色、相互关系以及目标综合标准。我们通过从已发表论文中挖掘实例来构建这一范式,从而捕捉真实想法如何从既有文献中产生。随后,我们通过示范、自蒸馏和强化学习训练模型,并在推理时进一步结合检索来增强生成效果。实验表明,该方法在构思质量方面取得了持续改进。我们的分析揭示了一种功能分解:基于锚点的训练能够增强创造性综合,检索有助于丰富细节,而二者结合可带来最佳性能。