电力工程研究世界模型学习其动力学并揭示假设情景

关于电力工程研究方向的决策决定了哪些技术能够成熟，并通过这些技术塑造持续数十年的基础设施；然而，在决策作出之前，人们无法观察其后果，而现有的研究领域预测通常只是对单一路径进行外推。本文引入研究世界模型，将研究领域视为一个可以施加行动的动力系统，并基于110万篇论文为电力工程建立了一个研究世界模型。一个蒸馏语言模型将每篇论文读取为带有角色类型的概念；两个复杂且高保真的图时序神经网络核心学习由此形成的概念网络如何演化；同时，从出版记录中的自然实验中学习到的算子用于估计干预效果。在时间上留出的测试中，该模型能够提前数年预测哪些概念将会增长，以及哪些方法—目标组合将首次建立联系；在大多数设置下，其表现优于经过调优的机器学习基线模型，并且其估计的干预效果与其未见过的自然实验中实际实现的效果相吻合。该模型的训练方案及其中三个算子在开发阶段未使用的两个领域中成功复现。以自然语言提出的问题会由一个领域专用的270亿参数语言模型编译为可执行操作，并通过有干预和无干预的成对模拟作出回答。独立的语言模型评审者对答案在忠实度方面给出了5分制4.1分的评价。通过揭示研究领域的潜在动力学及其对干预的响应，研究世界模型为在研究决策作出之前模拟和检验这些决策提供了一种新途径。