arXiv cs.LG精选72

在低数据量情境下,LLM辅助正则化能否提高迁移流预测准确率?

Can LLM-assisted regularization increase forecast accuracy for migration flows in low data regimes?

· 7天前

精选理由

揭示大模型结合新闻信号可在特定迁移走廊改善低数据预测,但效果依赖场景与参数。

AI 摘要

arXiv:2610.07208v1 公告类型:新 摘要:对于传统的基于引力模型的预测模型而言,迁移流预测仍是一项重大挑战。这些模型主要依赖结构化的社会经济指标,例如经济差距、政治稳定性和地理距离。本研究探讨了LLM能否通过从新闻文章中提取与迁移相关的情境信号,并通过特征特定的正则化惩罚将其纳入加权Lasso预测框架,从而改进迁移预测。所提出的框架采用分层LLM推理流程,从新闻数据中对与迁移相关的推力—拉力信号进行分类,并评估了2021年11月至2022年11月期间多条迁移走廊的预测表现,包括墨西哥—美国、乌克兰—波兰和叙利亚—土耳其。实验结果显示,不同迁移走廊和建模策略的表现不一,在所有实验中没有任何一种正则化方法始终优于其他方法。表现最佳的墨西哥配置由一个基于引力模型的模型和所提出的推力—拉力比率构成,其平均绝对百分比误差(MAPE)为17.15%;表现最强的叙利亚配置采用Direct LLM-Lasso,MAPE为29.29%。对于乌克兰,表现最佳的配置采用LLM-Assisted Regularization(AR),MAPE为41.05%。总体而言,结果表明,在特定条件下,源自文章的情境特征和LLM引导的正则化能够改进迁移预测,但迁移走廊特征、文章数量和超参数配置对性能有显著影响。

查看原文(arXiv cs.LG)