当护栏看起来有效时:LLM Agent 商业评估中的构念效度失败
When Guardrails Look Effective: Construct Validity Failures in LLM Agent Commerce Evaluation
精选理由
帮助识别LLM商业评测中的伪有效性与协议偏差
AI 摘要
交互式模拟正越来越多地用于评估由语言模型代理构成的市场中的政策。它们的输出看起来可以反映经济现象——价格、利润、消费者剩余和福利——却未必实现了该主张所指称的行为。我们在一个用于可配置酒店交易的多轮买方--卖方测试平台中审计了这一风险。一个初始实现报告称,在 Qwen2.5 1.5B--14B 级别上,两个市场护栏带来的福利增益分别为 +87.4、+35.0 和 +28.8。它还为受护栏和未受护栏的代理使用了不同的报价模式和选择流程。固定报价模式和买方选择器后,成对对比变为 +7.2、-13.9 和 +23.8。四个最大的 14B 单次生成效应平均为 +229;在每个画像-条件下进行三代后,它们的平均值为 +37.6(95% bootstrap 区间 [-34.2, 109.3]),而生成残差在这一事后探测中解释了 49.9% 的变异。卖家激励检查呈现非单调性:提高利润压力得到的利润反而低于默认卖家提示。脚本化的正向对照说明了这为何重要。一个利润最大化卖家本就能达到第一最优福利,因此护栏主要是在重新分配并降低福利;只有当卖家被显式编程为强制低效捆绑时,它们才会创造福利。我们提出了一个构念效度契约,用于区分激励有效性、协议隔离、随机稳定性和福利核算,并在实质性政策主张之前返回 INVALID 或 INCONCLUSIVE。在我们的案例中,原始估计在协议隔离下是 INVALID,而控制研究在激励有效性和随机稳定性下仍然是 INCONCLUSIVE。这个案例并未表明护栏无效;它表明,在模拟代理和协议通过这些检查之前,它们的表面价值是无法识别的。