LEAF:事件增强预测的持续更新基准
LEAF: A Living Benchmark for Event-Augmented Forecasting
精选理由
提出动态事件增强预测基准,严控未来信息泄漏,提升大模型预测评估的可靠性。
AI 摘要
arXiv:2605.16358v2 公告类型:替换 摘要:大型语言模型(LLM)正越来越多地应用于现实世界的预测任务,但由于预训练数据污染以及自动化搜索中的前视信息泄露,对其真实预测能力的评估仍受到影响。现有基准要么依赖静态上下文,要么将评估限制在狭窄的环境中,要么未能审查辅助文本事件是否泄露未来信息。为建立严格的评估范式,我们提出 LEAF,这是首个面向事件增强预测任务的持续更新基准,涵盖趋势预测、事件预测和时间序列预测。LEAF 将递归检索智能体系统与双智能体交叉验证相结合,以收集全面、相关且时间对齐的辅助上下文。由 47 名领域专家对 500 项任务开展的全面审计表明,我们的流程将未来信息泄露率从 8.6% 降至 1.6%。通过在我们的基准上对 16 个前沿专有模型和开放权重模型进行广泛评估,我们表明,LLM 能够有效地从经过验证的事件中提取信号,从而提升趋势预测和事件预测的表现。